1
00:00:03,003 --> 00:00:05,405
(stor orkesterfanfar
spelar)
2
00:00:27,795 --> 00:00:30,163
♪ ♪
3
00:00:41,843 --> 00:00:44,144
(fåglarna kvittrar och ropar)
4
00:00:49,216 --> 00:00:51,519
-(burrande)
-(trilling)
5
00:00:55,657 --> 00:00:58,058
(VCR klickar och surrar)
6
00:01:01,194 --> 00:01:02,630
(projektorn klickar)
7
00:01:05,332 --> 00:01:09,637
Nu dagens datorer
är fullständiga idioter,
8
00:01:09,671 --> 00:01:12,507
men detta kommer inte att vara sant
i en annan generation.
9
00:01:12,540 --> 00:01:15,342
De kommer att börja tänka,
och så småningom kommer de att göra det
10
00:01:15,375 --> 00:01:17,845
helt överväga
deras skapare.
11
00:01:17,879 --> 00:01:20,582
Är detta deprimerande?
Jag förstår inte varför det skulle vara det.
12
00:01:20,615 --> 00:01:25,352
Jag misstänker att det är ekologiskt
eller biologisk evolution
13
00:01:25,385 --> 00:01:27,220
har snart kommit till sitt slut.
14
00:01:28,322 --> 00:01:29,791
(Daniel skrattar)
15
00:01:29,824 --> 00:01:31,224
CAROLINE: Du vill inte ha mig
att vara berättaren.
16
00:01:31,258 --> 00:01:32,694
Jag har ingen bra röst.
17
00:01:32,727 --> 00:01:34,461
DANIEL: Du har en fantastisk röst.
Gör det bara.
18
00:01:34,494 --> 00:01:36,598
Det är bara en--
vi försöker bara.
19
00:01:36,631 --> 00:01:38,432
CAROLINE:
Får jag betalt för den här skiten?
20
00:01:38,465 --> 00:01:40,768
DANIEL (skrattar): Tja,
vi får se hur bra du gör det.
21
00:01:40,802 --> 00:01:42,202
(Caroline skrattar)
22
00:01:42,235 --> 00:01:44,304
-♪ ♪
-(hund skäller)
23
00:01:46,908 --> 00:01:48,576
CAROLINE:
Jag måste ringa mina föräldrar.
24
00:01:48,610 --> 00:01:49,309
(motorn startar)
25
00:01:49,343 --> 00:01:51,478
Ibland rusar vi in i saker
26
00:01:51,512 --> 00:01:53,347
utan att tänka igenom dem.
27
00:01:53,380 --> 00:01:54,916
DANIEL: Ja, kan du...
vill du skjuta? Det är...
28
00:01:54,949 --> 00:01:57,752
CAROLINE: Som när Daniel
och Caroline gifte sig
29
00:01:57,785 --> 00:02:00,755
151 dagar efter att de träffades.
30
00:02:00,788 --> 00:02:02,523
Låt oss spola tillbaka.
31
00:02:03,691 --> 00:02:05,325
(applåder)
32
00:02:05,359 --> 00:02:07,562
Har du funderat på
köpa en hemdator?
33
00:02:07,595 --> 00:02:09,631
CAROLINE:
1993, när Daniel föddes,
34
00:02:09,664 --> 00:02:12,533
hans föräldrar hade inte ens
en dator i huset.
35
00:02:12,567 --> 00:02:14,334
Men han minns
när de äntligen fick en.
36
00:02:14,368 --> 00:02:16,269
Vad en dator är för mig är
37
00:02:16,303 --> 00:02:18,873
motsvarigheten till en cykel
för våra sinnen.
38
00:02:18,906 --> 00:02:20,608
Hej.
39
00:02:20,642 --> 00:02:22,777
CAROLINE: Hans dator hjälpte
släpp lös sin kreativitet.
40
00:02:22,810 --> 00:02:24,411
DANIEL:
Rullande. Gå.
41
00:02:24,444 --> 00:02:27,247
CAROLINE: Han använde
hans pappas iMac för att redigera videor.
42
00:02:27,280 --> 00:02:28,650
Ja!
43
00:02:28,683 --> 00:02:30,618
CAROLINE: Och till och med göra
små animationer.
44
00:02:30,652 --> 00:02:32,419
(däcken gnisslar, kraschar)
45
00:02:32,452 --> 00:02:35,690
1998, när Caroline var
en liten flicka...
46
00:02:35,723 --> 00:02:37,290
Hej mamma.
47
00:02:37,324 --> 00:02:38,593
...bara nördar visste
vad internet var.
48
00:02:38,626 --> 00:02:40,360
Och vad sägs om
den här internetgrejen?
49
00:02:40,394 --> 00:02:41,696
-Vet du, vet du något
om det? -Säker.
50
00:02:41,729 --> 00:02:43,330
-(publiken skrattar)
-CAROLINE: Men snart,
51
00:02:43,363 --> 00:02:45,399
-alla var på...
-...Internet.
52
00:02:45,432 --> 00:02:47,467
...och datorer var
att slå människor i schack.
53
00:02:47,502 --> 00:02:50,470
ANNONSARE: Deep Blue--
Kasparov har avgått!
54
00:02:50,505 --> 00:02:52,874
CAROLINE: Och vid tiden
Caroline gick på college,
55
00:02:52,907 --> 00:02:55,543
datorer var
i allas ficka.
56
00:02:55,576 --> 00:02:58,713
Nu kunde Daniel göra filmer
med sin telefon.
57
00:02:58,746 --> 00:03:02,215
Han växte upp och blev en artist
och en filmskapare...
58
00:03:02,249 --> 00:03:04,418
-God natt.
-...och det gjorde Caroline.
59
00:03:04,451 --> 00:03:06,286
Klipp. Låt oss gå in på en närbild.
Det var perfekt.
60
00:03:06,319 --> 00:03:07,822
Då var datorer
ansluter människor
61
00:03:07,855 --> 00:03:09,456
och förändra världen på ett sätt
62
00:03:09,489 --> 00:03:10,925
att vi aldrig
kunde ha föreställt sig.
63
00:03:10,958 --> 00:03:12,694
Alla pengar som samlats in av
Ice Bucket Challenge...
64
00:03:12,727 --> 00:03:14,796
CAROLINE:
En del av det var bra.
65
00:03:14,829 --> 00:03:15,963
(fliftar)
66
00:03:15,997 --> 00:03:17,565
Vissa inte så bra.
67
00:03:17,598 --> 00:03:19,701
Ångest, självskada, självmord...
68
00:03:19,734 --> 00:03:21,602
Men det är klart nu
att vi inte gjorde tillräckligt
69
00:03:21,636 --> 00:03:24,839
för att förhindra att dessa verktyg
används för skada också.
70
00:03:24,872 --> 00:03:26,741
CAROLINE: Och som världen
blev mer och mer fokuserad
71
00:03:26,774 --> 00:03:28,543
-på sina datorer,
-(telefon ringer)
72
00:03:28,576 --> 00:03:31,211
Daniel fokuserade på sitt konstverk.
73
00:03:32,312 --> 00:03:36,249
Varhelst han gick,
han hade alltid en skissbok,
74
00:03:36,283 --> 00:03:38,720
inklusive natten
han träffade Caroline.
75
00:03:38,753 --> 00:03:41,923
Han ritade en fruktansvärd bild
av henne, och 20 minuter senare,
76
00:03:41,956 --> 00:03:44,592
uttalade han djärvt
de skulle gifta sig,
77
00:03:44,625 --> 00:03:47,862
vilket de, som ni vet, gjorde,
151 dagar senare.
78
00:03:47,895 --> 00:03:50,464
KVINNAN: ... uttala dig nu
man och hustru.
79
00:03:50,497 --> 00:03:51,933
CAROLINE:
De flyttade in i ett sött hus...
80
00:03:51,966 --> 00:03:53,433
-DANIEL: Älg, hej! Kom hit!
-...och skaffade en hund
81
00:03:53,467 --> 00:03:54,936
lika dum som Daniel.
82
00:03:54,969 --> 00:03:57,872
Under tiden var datorer
skriver hela uppsatser
83
00:03:57,905 --> 00:03:59,707
baserat på enkla frågor som,
84
00:03:59,741 --> 00:04:02,777
"Hur svårt skulle det vara att bygga
en hydda på min bakgård?"
85
00:04:03,443 --> 00:04:06,514
Och så Daniel byggde en hydda
i hans bakgård.
86
00:04:07,380 --> 00:04:10,317
Men precis när han satte sig för att börja
jobbar på sin nästa film,
87
00:04:10,350 --> 00:04:14,488
han lärde sig att datorer
kunde nu skriva manus.
88
00:04:15,422 --> 00:04:16,891
Jag menar, de var dåliga,
89
00:04:16,924 --> 00:04:19,326
men de blev bättre
riktigt snabbt.
90
00:04:19,359 --> 00:04:21,929
De kan skapa nya bilder
och videor från början,
91
00:04:21,963 --> 00:04:25,032
och några av dem
kan till och med klara advokatprovet.
92
00:04:25,066 --> 00:04:29,402
Inte bara passera ribban utan
vara i topp tio percentilen.
93
00:04:29,436 --> 00:04:31,038
CAROLINE:
Det var förvirrande.
94
00:04:31,072 --> 00:04:32,607
(suckar)
95
00:04:32,640 --> 00:04:35,543
Daniel ville bara ha
en cykel för hans sinne,
96
00:04:35,576 --> 00:04:39,080
men datorer hade blivit
ett självkörande raketskepp.
97
00:04:39,113 --> 00:04:40,648
(suskande)
98
00:04:40,681 --> 00:04:42,517
("Vi har kontroll"
av Neil Young spelar)
99
00:04:42,550 --> 00:04:45,385
Pionjärer inom området
av artificiell intelligens
100
00:04:45,418 --> 00:04:46,821
vädjar till kongressen
101
00:04:46,854 --> 00:04:48,856
för att klara säkerhetsregler
innan det är för sent.
102
00:04:48,890 --> 00:04:50,858
CAROLINE: Nu kändes det som
hela världen
103
00:04:50,892 --> 00:04:53,528
hade rusat in i något
utan att tänka igenom det,
104
00:04:53,561 --> 00:04:55,830
och alla hade en åsikt.
105
00:04:56,564 --> 00:05:00,635
Skulle det förstöra världen
eller rädda mänskligheten?
106
00:05:00,668 --> 00:05:02,804
Det var för mycket information,
107
00:05:02,837 --> 00:05:05,106
vilket gjorde honom orolig,
vilket gjorde Caroline orolig...
108
00:05:05,139 --> 00:05:06,541
(upprört skrik)
109
00:05:06,574 --> 00:05:08,042
Jag har inga barn än,
men jag oroar mig
110
00:05:08,075 --> 00:05:10,645
hur världen skulle se ut
om jag bestämmer mig för det. (skratt)
111
00:05:10,678 --> 00:05:12,947
CAROLINE:
Han började spinna ut.
112
00:05:12,980 --> 00:05:14,549
(otydligt prat)
113
00:05:14,582 --> 00:05:17,685
Det höll på att bli
ett berg av ångest.
114
00:05:19,620 --> 00:05:22,322
-MAN: Det är hemskt.
-Det är jävla Siri.
115
00:05:23,124 --> 00:05:25,893
CAROLINE:
Och så, Daniel bestämde sig för att gå ut
116
00:05:25,927 --> 00:05:28,529
och hitta någon
vem kunde förklara detta för honom,
117
00:05:28,563 --> 00:05:30,631
så att han kunde sluta
tänker på det
118
00:05:30,665 --> 00:05:33,835
och han och Caroline kunde
fortsätt med sina liv.
119
00:05:33,868 --> 00:05:37,437
♪ Vi har kontroll,
vi har kontroll ♪
120
00:05:37,470 --> 00:05:39,006
♪ Vi har kontroll ♪
121
00:05:39,040 --> 00:05:41,042
♪ Kemisk dator
tänkande batteri ♪
122
00:05:41,075 --> 00:05:42,877
♪ Vi har kontroll, vi är... ♪
123
00:05:42,910 --> 00:05:45,980
Denna strävan skulle visa sig
att vara hopplöst naiv
124
00:05:46,013 --> 00:05:49,584
och starta det mest förvirrande
år av hans liv.
125
00:05:49,617 --> 00:05:50,985
♪ Vi har kontroll... ♪
126
00:05:51,018 --> 00:05:53,420
Men som vi vet,
vi rusar ibland in i saker
127
00:05:53,453 --> 00:05:54,956
utan att tänka igenom dem.
128
00:05:54,989 --> 00:05:56,791
♪ Kemisk dator
tänker batteri... ♪
129
00:05:56,824 --> 00:05:58,491
Åh herregud. Vad händer?
130
00:05:58,526 --> 00:06:00,127
CAROLINE:
Han hade frågor.
131
00:06:00,161 --> 00:06:02,096
Frågor endast om
smartaste nördar kunde svara.
132
00:06:02,129 --> 00:06:04,665
Underkastar sig förhörsledaren.
133
00:06:04,699 --> 00:06:06,399
CAROLINE:
Frågor som:
134
00:06:06,433 --> 00:06:09,103
Var detta apokalypsen
eller hade han faktiskt anledning
135
00:06:09,136 --> 00:06:10,705
-att vara optimistisk?
-Ja.
136
00:06:11,305 --> 00:06:14,407
-♪ Kemiskt datortänkande
batteri. ♪ -(låten slutar)
137
00:06:14,441 --> 00:06:16,677
CAROLINE:
Äh, är det bra?
138
00:06:16,711 --> 00:06:18,112
DANIEL:
Ja.
139
00:06:18,145 --> 00:06:20,648
Så, till att börja,
140
00:06:20,681 --> 00:06:22,482
vad är artificiell intelligens?
141
00:06:22,516 --> 00:06:25,152
Jag vet att det måste vara irriterande
för dig, den där frågan,
142
00:06:25,186 --> 00:06:27,021
men jag tror att det är viktigt.
143
00:06:27,054 --> 00:06:30,423
Alltså...AI...
144
00:06:30,457 --> 00:06:32,459
(stammar) Um...
145
00:06:32,492 --> 00:06:34,161
- Ja...
- Äh, hmm.
146
00:06:34,195 --> 00:06:35,196
(skrattar):
Det är en bra fråga.
147
00:06:35,229 --> 00:06:36,697
- Ja, um...
- Äh...
148
00:06:36,731 --> 00:06:38,165
DANIEL:
Vad är AI?
149
00:06:38,199 --> 00:06:39,634
(skrattar)
150
00:06:39,667 --> 00:06:41,035
Jag älskar att det är
den första frågan,
151
00:06:41,068 --> 00:06:43,671
för det finns det inte
ett tydligt och konsekvent svar.
152
00:06:43,704 --> 00:06:45,740
Artificiell intelligens är det
153
00:06:45,773 --> 00:06:51,178
ett slags avsiktligt
och kanske onödigt bred term.
154
00:06:51,212 --> 00:06:53,781
DAVID EVAN HARRIS:
Det är en maskin
155
00:06:53,814 --> 00:06:56,083
gör saker som
vi trodde tidigare bara
156
00:06:56,117 --> 00:06:57,718
som folk kunde göra:
157
00:06:57,752 --> 00:07:01,656
ge rekommendationer,
beslut och förutsägelser.
158
00:07:01,689 --> 00:07:07,228
AI är, eh, applikationen
av datavetenskap
159
00:07:07,261 --> 00:07:09,664
att lösa kognitiva problem.
160
00:07:09,697 --> 00:07:13,768
Okej, så när jag föreställer mig AI,
161
00:07:13,801 --> 00:07:17,204
det är ungefär som
denna magiska datorlåda...
162
00:07:17,238 --> 00:07:19,640
♪ ♪
163
00:07:20,708 --> 00:07:24,645
...bara, som, flytande
i, typ, inert utrymme.
164
00:07:24,679 --> 00:07:26,847
Och oavsett
hur många gånger folk försöker
165
00:07:26,881 --> 00:07:30,051
och förklara detta för mig,
Jag förstår bara inte hur...
166
00:07:30,084 --> 00:07:32,887
hur det är att förstå
alla dessa saker
167
00:07:32,920 --> 00:07:36,190
och hur det känns
intelligens.
168
00:07:36,223 --> 00:07:37,692
(pipande, elektroniskt chattande)
169
00:07:37,725 --> 00:07:39,927
Och det är typ
nerverväckande.
170
00:07:41,729 --> 00:07:46,499
AZA RASKIN: Vad är
denna nya generationens AI?
171
00:07:47,535 --> 00:07:50,638
Denna AI som är annorlunda än
varannan generation?
172
00:07:50,671 --> 00:07:53,040
Som, ingen någonsin
pratade om, typ,
173
00:07:53,074 --> 00:07:57,545
Siri tar över världen
eller orsaka katastrofer.
174
00:07:57,578 --> 00:07:59,080
-KVINNA: Hej, Siri?
-MAN: ...vill.
175
00:07:59,113 --> 00:08:01,115
KVINNA:
Hej? Siri?
176
00:08:01,148 --> 00:08:02,984
Hej? Hej Siri!
177
00:08:03,017 --> 00:08:06,253
Eller rösten i Google Maps,
som uttalar vägnamn fel,
178
00:08:06,287 --> 00:08:07,888
som att bryta samhället.
179
00:08:07,922 --> 00:08:10,992
MAN: Google Maps säger
det här är en väg.
180
00:08:11,025 --> 00:08:13,627
(skrattar):
Men jag tror att jag är i en flod.
181
00:08:13,661 --> 00:08:14,996
Detta är definitivt en flod,
innit?
182
00:08:15,029 --> 00:08:17,898
Något förändrades
med ChatGPT som kommer ut.
183
00:08:18,532 --> 00:08:20,568
Folk förstod-- nej, nej, nej--
184
00:08:20,601 --> 00:08:21,869
denna teknik
galet värdefullt,
185
00:08:21,902 --> 00:08:24,005
det är vansinnigt kraftfullt
och dessutom sjukt läskigt.
186
00:08:24,038 --> 00:08:25,940
Okej, lyssna på det här.
Väldigt läskigt.
187
00:08:25,973 --> 00:08:28,976
En ny artificiell intelligens
verktyget blir viralt
188
00:08:29,010 --> 00:08:32,980
för att veva ut hela uppsatser
på några sekunder.
189
00:08:36,217 --> 00:08:41,722
AI dvärgar kraften hos alla
andra teknologier kombinerade.
190
00:08:41,756 --> 00:08:44,058
DANIEL:
"AI dvärgar kraften
191
00:08:44,091 --> 00:08:46,827
av all annan teknik
kombinerat."
192
00:08:46,861 --> 00:08:47,762
Ja.
193
00:08:47,795 --> 00:08:49,230
Tror du att det är sant?
194
00:08:49,263 --> 00:08:51,265
Ja.
195
00:08:51,298 --> 00:08:53,567
Berätta för mig om... Hur? Hur?
196
00:08:53,601 --> 00:08:57,038
Jag tror, för att måla den bilden,
det är verkligen viktigt
197
00:08:57,071 --> 00:09:01,175
att förstå vad som är idag
toppmoderna system
198
00:09:01,208 --> 00:09:02,777
ser ut och hur de är byggda.
199
00:09:02,810 --> 00:09:06,280
(skrattar) Det här är
ganska... ganska upplägg.
200
00:09:06,313 --> 00:09:07,782
Så, en sak som
201
00:09:07,815 --> 00:09:10,051
inte många människor
inse är det
202
00:09:10,084 --> 00:09:14,221
system som ChatGPT är det inte
programmerad av vilken människa som helst.
203
00:09:14,255 --> 00:09:15,756
Vad menar du?
204
00:09:15,790 --> 00:09:17,625
Istället är det något liknande
th-de är vuxna.
205
00:09:17,658 --> 00:09:19,727
Vi ger dem liksom
råresurser, som
206
00:09:19,760 --> 00:09:21,629
"Här är mycket
beräkningsresurser.
207
00:09:21,662 --> 00:09:22,730
Här finns mycket data."
208
00:09:22,763 --> 00:09:24,165
Under huven är det matematik,
209
00:09:24,198 --> 00:09:27,668
och matematiken är det faktiskt
förvånansvärt okomplicerat.
210
00:09:27,701 --> 00:09:31,672
DANIEL: Så ChatGPT är en sort
av AI men det är inte allt av AI?
211
00:09:31,705 --> 00:09:33,207
Totalt. ChatGPT är
bara början,
212
00:09:33,240 --> 00:09:34,675
men det är ett bra ställe att börja.
213
00:09:34,708 --> 00:09:38,145
Men jag vet fortfarande inte
vad AI är.
214
00:09:38,179 --> 00:09:40,848
För att förstå AI,
det börjar med förståelse
215
00:09:40,881 --> 00:09:43,717
som intelligens handlar om
känna igen mönster.
216
00:09:43,751 --> 00:09:45,186
- Mönster. - Mönster.
- Mönster.
217
00:09:45,219 --> 00:09:48,956
COTRA: Det visas
biljoner ord med text
218
00:09:48,989 --> 00:09:51,826
över miljontals dokument
på Internet.
219
00:09:51,859 --> 00:09:53,127
RANDIMA FERNANDO:
Det började med text.
220
00:09:53,160 --> 00:09:56,197
Och vad de gjorde var
de tog läroböcker,
221
00:09:56,230 --> 00:09:59,967
och de tog dikter och uppsatser
och bruksanvisningar.
222
00:10:00,000 --> 00:10:01,368
DAVID EVAN HARRIS:
De kan göra saker som
223
00:10:01,402 --> 00:10:03,370
smälta hela Internet,
224
00:10:03,404 --> 00:10:07,108
vartenda ord som någonsin
skrivits av en person.
225
00:10:07,141 --> 00:10:10,244
Reddit-trådar och sociala medier
och hela Wikipedia.
226
00:10:10,277 --> 00:10:14,048
Mer data än någon kunde
någonsin läst i flera liv.
227
00:10:14,081 --> 00:10:15,950
Och de gav det här systemet
ett jobb.
228
00:10:15,983 --> 00:10:18,953
Ta reda på mönstren och
strukturen för den informationen
229
00:10:18,986 --> 00:10:21,122
och använda det
att göra förutsägelser om
230
00:10:21,155 --> 00:10:23,791
vilket ord ska komma härnäst
i en mening.
231
00:10:23,824 --> 00:10:25,426
När du säger
"mönster i en mening",
232
00:10:25,459 --> 00:10:27,128
vad pratar du om?
233
00:10:27,161 --> 00:10:29,864
Så det är allt från, som
de riktigt enkla sakerna,
234
00:10:29,897 --> 00:10:32,266
som de flesta meningar slutar
med en period,
235
00:10:32,299 --> 00:10:35,402
hela vägen upp till
mer konceptuella saker, som:
236
00:10:35,436 --> 00:10:37,138
Vad är en sonett?
237
00:10:37,171 --> 00:10:39,039
Det är en typ av dikt, och det har den
någon speciell struktur.
238
00:10:39,707 --> 00:10:41,809
RASKIN:
Så, den tittar på
239
00:10:41,842 --> 00:10:44,011
all den data,
all den texten...
240
00:10:44,044 --> 00:10:46,313
COTRA: Och över biljoner
och biljoner försök,
241
00:10:46,347 --> 00:10:49,150
varje gång det blir något
rätt eller fel,
242
00:10:49,183 --> 00:10:51,819
det är givet lite
av positiv förstärkning
243
00:10:51,852 --> 00:10:53,888
när den gissar
nästa ord korrekt,
244
00:10:53,921 --> 00:10:56,090
och det är givet lite
av negativ förstärkning
245
00:10:56,123 --> 00:10:58,926
när den gissar
nästa ord felaktigt.
246
00:10:59,727 --> 00:11:02,029
Och i slutet av det,
du har ett system som
247
00:11:02,062 --> 00:11:05,332
pratar riktigt bra engelska
som en bieffekt
248
00:11:05,366 --> 00:11:07,168
att vara riktigt, riktigt bra
på att förutsäga
249
00:11:07,201 --> 00:11:09,103
ordet som kommer härnäst
i ett stycke text.
250
00:11:09,136 --> 00:11:11,972
(automatiserad röst
talar franska)
251
00:11:12,006 --> 00:11:14,308
Den använder alla dessa mönster
det har lärt sig
252
00:11:14,341 --> 00:11:16,277
att kunna göra
en förutsägelse om
253
00:11:16,310 --> 00:11:17,811
vad borde svaret vara,
254
00:11:17,845 --> 00:11:19,180
då ger den dig det
som utdata.
255
00:11:19,213 --> 00:11:21,482
AUTOMATISK RÖST:
Det är lite förenklat,
256
00:11:21,516 --> 00:11:23,717
men jag tror att folk kommer att få det.
257
00:11:23,751 --> 00:11:25,252
Så det är allt det gör?
258
00:11:25,286 --> 00:11:27,354
Ja. Det verkar inte som
det skulle vara så komplicerat,
259
00:11:27,388 --> 00:11:28,489
men egentligen måste du veta
260
00:11:28,523 --> 00:11:30,057
en enorm mängd saker
261
00:11:30,090 --> 00:11:32,092
för att
lyckas faktiskt med det.
262
00:11:32,793 --> 00:11:34,461
RASKIN:
Om du säger till ChatGPT,
263
00:11:34,495 --> 00:11:37,131
"Skriv en Shakespearean till mig
sonett om min hund,"
264
00:11:37,164 --> 00:11:39,166
det måste veta vad hundar är.
265
00:11:39,200 --> 00:11:40,935
-Det måste veta vad du älskar
om din hund. -(skällande)
266
00:11:40,968 --> 00:11:43,304
Det måste veta
vem Shakespeare är,
267
00:11:43,337 --> 00:11:46,040
att sonetter rimmar,
att de har en struktur,
268
00:11:46,073 --> 00:11:48,342
att ord har ljud
som kan rimma.
269
00:11:48,375 --> 00:11:49,843
Det krävs mycket.
270
00:11:49,877 --> 00:11:51,212
(röster överlappar varandra
på olika språk)
271
00:11:51,245 --> 00:11:53,280
Herregud, du kan prata
till din dator nu.
272
00:11:53,314 --> 00:11:56,350
Det var bara inte sant
för tre år sedan.
273
00:11:56,383 --> 00:11:58,085
RASKIN: Ja, och så är det
den riktigt viktiga delen.
274
00:11:58,118 --> 00:12:01,055
Samma process som tillåter AI
275
00:12:01,088 --> 00:12:03,490
upptäck och manipulera
textens mönster
276
00:12:03,525 --> 00:12:06,160
är samma process
som låter den avslöja
277
00:12:06,193 --> 00:12:10,231
mönstren för hela
universum och allt i det.
278
00:12:10,831 --> 00:12:13,234
FERNANDO: Det finns mönster
och bilder och ljud
279
00:12:13,267 --> 00:12:16,470
i datorkod och DNA
och musik och fysik
280
00:12:16,504 --> 00:12:18,973
och mode och byggnadsdesign
281
00:12:19,006 --> 00:12:22,042
(förvrängd): och in
mänskliga röster och mänskliga ansikten,
282
00:12:22,076 --> 00:12:24,245
(normalt):
verkligen, verkligen överallt.
283
00:12:24,278 --> 00:12:26,347
-Överallt. -Överallt.
-Överallt. -Överallt.
284
00:12:26,380 --> 00:12:28,182
Om du har lärt dig
dessa mönster,
285
00:12:28,215 --> 00:12:30,117
du kan generera
nya sorters låtar.
286
00:12:30,150 --> 00:12:31,785
Du kan skapa nya videor.
287
00:12:31,819 --> 00:12:33,087
Och det är därför, om du ger det
288
00:12:33,120 --> 00:12:35,322
en tre sekunder lång inspelning
av din mormor,
289
00:12:35,356 --> 00:12:37,224
den kan tala tillbaka i hennes röst.
290
00:12:37,258 --> 00:12:38,092
Åh, herregud.
291
00:12:38,125 --> 00:12:41,061
(upprepa):
Åh, herregud. Herregud.
292
00:12:41,095 --> 00:12:43,397
Vad kommer de att tänka på härnäst?
293
00:12:43,430 --> 00:12:44,532
Det går väldigt, väldigt snabbt.
294
00:12:44,566 --> 00:12:46,400
En amerikansk AI-start-up
295
00:12:46,433 --> 00:12:48,068
har släppt sin senaste modell.
296
00:12:48,102 --> 00:12:51,171
Det företaget är Anthropic,
och den har precis presenterats
297
00:12:51,205 --> 00:12:54,174
de senaste versionerna
av dess AI-assistent Claude.
298
00:12:54,208 --> 00:12:57,411
GLENN BECK: Så, xAI-teamet
var där för att avslöja Grok 4.
299
00:12:57,444 --> 00:13:00,414
MAN: Google släppte en
bara förra veckan. Tvillingarna är...
300
00:13:00,447 --> 00:13:03,417
Vi har gått från GPT-2
för bara ett par år sedan,
301
00:13:03,450 --> 00:13:06,020
som knappt kunde skriva
ett sammanhängande stycke,
302
00:13:06,053 --> 00:13:08,322
till GPT-4,
som kan klara advokatexamen.
303
00:13:08,355 --> 00:13:10,924
Och allt de behövde göra
att komma dit
304
00:13:10,958 --> 00:13:13,294
var i huvudsak lägga till mer data
och mer beräkning.
305
00:13:13,327 --> 00:13:16,897
-De här människorna som är
bygger det här... -COTRA: Ja.
306
00:13:16,930 --> 00:13:18,332
...de slänger bara mer...
307
00:13:18,365 --> 00:13:22,236
Fler fysiska datorer,
mer av samma typ av data.
308
00:13:22,269 --> 00:13:25,039
För ju fler
datorkraft du lägger till,
309
00:13:25,072 --> 00:13:28,375
desto mer komplex
intellektuella uppgifter de kan utföra.
310
00:13:28,409 --> 00:13:30,444
Så, ju mer väderdata
du ger det,
311
00:13:30,477 --> 00:13:32,446
ju bättre kan det
gör förutsägelser om
312
00:13:32,479 --> 00:13:34,448
vart en orkan kan gå.
313
00:13:34,481 --> 00:13:36,584
RASKIN: Och desto fler mönster
av tumörer och ben
314
00:13:36,618 --> 00:13:39,253
och vävnader som en AI har sett,
desto bättre kan den vara
315
00:13:39,286 --> 00:13:42,489
för att upptäcka en tumör
i en ny datortomografi.
316
00:13:42,524 --> 00:13:44,124
Bättre till och med än en mänsklig läkare.
317
00:13:44,158 --> 00:13:47,328
AI som redan finns
utplacerade för militären
318
00:13:47,361 --> 00:13:49,463
kan redan använda
satellitbilder,
319
00:13:49,496 --> 00:13:52,199
trupprörelser, kommunikationer
för att avgöra,
320
00:13:52,232 --> 00:13:53,934
-ibland dagar i förväg,
-(civilförsvarssiren brölar)
321
00:13:53,967 --> 00:13:55,336
där en attack
kommer att hända,
322
00:13:55,369 --> 00:13:57,605
som där en fiende
kommer att slå till.
323
00:13:57,639 --> 00:14:00,007
TRISTAN HARRIS: Hele det här
rymden rör sig så fort
324
00:14:00,040 --> 00:14:02,142
att något exempel
du lägger in den här filmen
325
00:14:02,176 --> 00:14:05,112
kommer att kännas helt klumpig
när den kommer ut.
326
00:14:05,145 --> 00:14:07,348
(pipande, klickande)
327
00:14:09,950 --> 00:14:11,653
-(applåder)
- (upptakt musik spelas)
328
00:14:11,686 --> 00:14:14,421
RASKIN:
Dessa modeller släpps
329
00:14:14,455 --> 00:14:17,391
innan någon vet
vad de ens är kapabla till.
330
00:14:17,424 --> 00:14:22,896
GPT-3.5 släpptes och ut
till 100 miljoner människor plus
331
00:14:22,930 --> 00:14:26,333
inför vissa forskare
upptäckte att det kunde göra det
332
00:14:26,367 --> 00:14:29,203
kemi av forskningsgrad
bättre än modeller
333
00:14:29,236 --> 00:14:33,240
som utbildats specifikt
att göra kemi på forskningsnivå.
334
00:14:33,273 --> 00:14:36,009
Det händer något där inne
att folket
335
00:14:36,043 --> 00:14:38,546
som bygger dem
förstår inte helt.
336
00:14:38,580 --> 00:14:41,348
I grund och botten analyserar den bara
uppgifterna i sig,
337
00:14:41,382 --> 00:14:45,419
och när det gör det,
det bara lär sig själv
338
00:14:45,452 --> 00:14:48,355
olika saker
som vi ofta inte hade för avsikt.
339
00:14:48,389 --> 00:14:50,324
Så till exempel
det läser mycket på nätet,
340
00:14:50,357 --> 00:14:53,127
och sedan någon gång, bara
lär sig hur man räknar.
341
00:14:53,160 --> 00:14:54,662
BARN:
En, två.
342
00:14:54,696 --> 00:14:56,463
HENDRYCKS: Och sedan vid
någon gång börjar det lära sig
343
00:14:56,497 --> 00:14:59,099
hur man svarar
avancerade fysikfrågor.
344
00:14:59,133 --> 00:15:01,268
Vi har inte programmerat det
i det som helst.
345
00:15:01,301 --> 00:15:03,203
Den har bara lärt sig av sig själv.
346
00:15:05,640 --> 00:15:07,709
TRISTAN HARRIS:
En AI är som en digital hjärna.
347
00:15:07,742 --> 00:15:09,176
Men precis som en mänsklig hjärna,
348
00:15:09,209 --> 00:15:11,078
om du gjorde en hjärnskanning
på en mänsklig hjärna,
349
00:15:11,111 --> 00:15:13,447
skulle du veta allt
den personen var kapabel till?
350
00:15:13,480 --> 00:15:15,482
Det kan du inte veta
bara från hjärnskanningen.
351
00:15:15,517 --> 00:15:18,318
Det är bara, liksom,
en massa siffror och som,
352
00:15:18,352 --> 00:15:20,522
de multiplikationer som är
händer det-det, som,
353
00:15:20,555 --> 00:15:22,524
den bästa maskininlärningen
forskare i världen
354
00:15:22,557 --> 00:15:25,159
kunde titta på och, liksom, ha
ingen aning om vad som hände.
355
00:15:31,398 --> 00:15:33,200
DANIEL:
Den där stolen.
356
00:15:33,233 --> 00:15:35,469
-Är det okej för dig?
-Ja.
357
00:15:36,136 --> 00:15:38,172
DANIEL: Så,
det är lite häpnadsväckande.
358
00:15:38,205 --> 00:15:39,440
Okej? Det tar liksom över
världen,
359
00:15:39,473 --> 00:15:41,609
och vi vet inte ens
hur det fungerar.
360
00:15:41,643 --> 00:15:43,477
-Är det rätt?
-Mm.
361
00:15:43,511 --> 00:15:47,381
Vi förstår
en rad viktiga saker,
362
00:15:47,414 --> 00:15:51,051
men det har vi inte
ett mycket bra grepp om
363
00:15:51,084 --> 00:15:53,521
varför de tillhandahåller
specifika svar på frågor.
364
00:15:53,555 --> 00:15:58,992
Det är ett problem eftersom vi är det
på vägen till att bygga maskiner,
365
00:15:59,026 --> 00:16:03,531
baserad på dessa principer,
som kan vara smartare än oss
366
00:16:03,565 --> 00:16:07,067
och därmed potentiellt ha
mycket kraft.
367
00:16:12,774 --> 00:16:15,610
En av de mest citerade
datavetare i historien.
368
00:16:15,643 --> 00:16:17,545
SUTSKEVER: Jag hittar det faktiskt
lite svårt
369
00:16:17,579 --> 00:16:19,079
att prata om min egen roll.
370
00:16:19,112 --> 00:16:21,448
Föredrar verkligen mycket
när andra människor gör det.
371
00:16:21,482 --> 00:16:24,351
Ilya som gick med var...
var-var nyckeln till
372
00:16:24,384 --> 00:16:26,086
OpenAI-väsen
i slutändan framgångsrik.
373
00:16:26,119 --> 00:16:27,522
Jag tror att det bara kommer att bli det
374
00:16:27,555 --> 00:16:31,158
något slags enormt, dramatiskt
och ofattbar effekt.
375
00:16:31,191 --> 00:16:33,327
Jag vet inte om du har spenderat
när som helst på YouTube,
376
00:16:33,360 --> 00:16:35,563
men man kan liksom känna
hastigheten redan, eller hur?
377
00:16:35,597 --> 00:16:36,764
Vet du vad jag menar?
378
00:16:36,798 --> 00:16:38,633
SHANE LEGG:
Det här är bara uppvärmningen.
379
00:16:38,666 --> 00:16:41,068
De riktigt kraftfulla systemen
kommer fortfarande,
380
00:16:41,101 --> 00:16:43,136
och de kommer
ganska snart.
381
00:16:48,408 --> 00:16:52,145
AGI står för "artificiell
allmän intelligens."
382
00:16:52,179 --> 00:16:54,481
Eh, system som är
i princip...
383
00:16:58,553 --> 00:17:00,755
Och det här är liksom, du vet,
verkar vara, typ,
384
00:17:00,788 --> 00:17:03,525
AI:s heliga graal?
385
00:17:03,558 --> 00:17:05,527
När du kan simulera
ett mänskligt sinne
386
00:17:05,560 --> 00:17:08,362
det är att göra mänsklig kognition
och kan resonera,
387
00:17:08,395 --> 00:17:11,398
det är en ny typ av AI
388
00:17:11,431 --> 00:17:14,602
som vi måste särskilja
från tidigare AI.
389
00:17:14,636 --> 00:17:16,804
När det händer,
förresten, det är då
390
00:17:16,838 --> 00:17:21,475
du skulle anlita en av
dessa AGI:er istället för en person.
391
00:17:21,509 --> 00:17:25,112
De flesta jobben i vår ekonomi
det kan göra.
392
00:17:25,145 --> 00:17:26,380
Det kan fungera 24 timmar om dygnet,
393
00:17:26,413 --> 00:17:28,550
blir aldrig trött,
blir aldrig uttråkad.
394
00:17:28,583 --> 00:17:30,552
De behöver inte sova.
De behöver inga pauser.
395
00:17:30,585 --> 00:17:32,352
De är liksom
kommer inte gå med i en fackförening.
396
00:17:32,386 --> 00:17:34,388
Kommer inte klaga,
kommer inte att vissla.
397
00:17:34,421 --> 00:17:36,290
Mer än 100 gånger billigare
398
00:17:36,323 --> 00:17:38,593
än människor som arbetar
till m-minimilön.
399
00:17:38,626 --> 00:17:40,127
Inte bara kommer de att vara det
gör allt,
400
00:17:40,160 --> 00:17:41,428
men de kommer att göra det snabbare.
401
00:17:41,461 --> 00:17:43,463
TRISTAN HARRIS:
Samma intelligens
402
00:17:43,497 --> 00:17:45,700
som krafter som också kan titta
vid mönstren och rörelserna
403
00:17:45,733 --> 00:17:48,335
och artikulerande muskler
och, du vet, robotik.
404
00:17:48,368 --> 00:17:50,672
Och så är det inte bara
ska automatisera skrivbordsjobb.
405
00:17:50,705 --> 00:17:52,272
Det är bara början.
406
00:17:52,306 --> 00:17:56,176
Det kommer att automatiseras
allt fysiskt arbete.
407
00:17:56,209 --> 00:17:57,444
LEIKE:
Det finns inget sätt
408
00:17:57,477 --> 00:17:59,714
människor kommer att tävla
med dem.
409
00:17:59,747 --> 00:18:02,149
♪ ♪
410
00:18:05,853 --> 00:18:09,791
Det är svårt att föreställa sig
effekterna av AGI.
411
00:18:09,824 --> 00:18:11,458
(elektroniskt prat)
412
00:18:11,491 --> 00:18:13,360
Men jag tror att det kommer att bli det
något väldigt stort
413
00:18:13,393 --> 00:18:16,129
och drastiskt och radikalt.
414
00:18:17,599 --> 00:18:19,466
DANIEL: Du tror
detta är en av de mest
415
00:18:19,499 --> 00:18:21,368
efterföljande ögonblick
i mänsklighetens historia?
416
00:18:21,401 --> 00:18:23,638
Ja. Ja, det är--
Jag menar, vad skulle annars vara?
417
00:18:23,671 --> 00:18:25,740
Jag menar, liksom, det finns
den industriella revolutionen.
418
00:18:25,773 --> 00:18:27,742
MALO BOURGON: Du vet, det kommer det
gör den industriella revolutionen
419
00:18:27,775 --> 00:18:29,476
ser ut som små bönor.
420
00:18:30,177 --> 00:18:32,547
TRISTAN HARRIS:
AGI är en böjningspunkt
421
00:18:32,580 --> 00:18:34,481
för det betyder
du kan accelerera
422
00:18:34,515 --> 00:18:37,652
alla andra intellektuella områden
allt på samma gång.
423
00:18:38,285 --> 00:18:40,354
Till exempel, om du gör ett förskott
i raketer,
424
00:18:40,387 --> 00:18:42,657
det går inte framåt
biologi och medicin.
425
00:18:44,391 --> 00:18:46,159
Om du gör ett förskott
i medicin,
426
00:18:46,193 --> 00:18:47,729
som inte främjar raketer.
427
00:18:48,328 --> 00:18:51,633
Men om du gör ett förskott
inom artificiell intelligens,
428
00:18:51,666 --> 00:18:54,736
som främjar all vetenskaplig
och tekniska områden
429
00:18:54,769 --> 00:18:56,236
allt på samma gång.
430
00:18:56,269 --> 00:18:57,505
Det är därför, under lång tid,
431
00:18:57,538 --> 00:18:59,574
Google DeepMinds
mission statement var...
432
00:18:59,607 --> 00:19:01,441
-Steg ett, lös intelligens.
-LEX FRIDMAN: Ja.
433
00:19:01,475 --> 00:19:03,377
-Steg två, använd det för att lösa
allt annat. -Ja.
434
00:19:03,410 --> 00:19:05,580
Det är därför AI dvärgar kraften
435
00:19:05,613 --> 00:19:07,949
av all annan teknik
kombinerat.
436
00:19:07,982 --> 00:19:09,517
Det kommer att förvandla allt.
437
00:19:09,550 --> 00:19:11,385
Så, eh, det blir det
minst lika stor som
438
00:19:11,418 --> 00:19:14,321
den industriella revolutionen,
möjligen, du vet, större,
439
00:19:14,354 --> 00:19:16,658
mer som advent
av el eller till och med eld.
440
00:19:16,691 --> 00:19:19,259
VIDEOBETALARE:
Grottmannen höll bokstavligen högt
441
00:19:19,292 --> 00:19:22,362
civilisationens fackla.
442
00:19:24,297 --> 00:19:25,733
KOKOTAJLO:
Det är allmänt tänkt att
443
00:19:25,767 --> 00:19:28,569
runt tiden för AGI,
vi kommer att ha AI som kan
444
00:19:28,603 --> 00:19:31,806
göra allt eller det mesta
AI-forskningsprocessen
445
00:19:31,839 --> 00:19:34,942
och, naturligtvis, kan göra det
snabbare och billigare.
446
00:19:34,976 --> 00:19:36,410
(pipande)
447
00:19:36,443 --> 00:19:37,679
LEIKE:
Den kan kopiera sig själv.
448
00:19:37,712 --> 00:19:39,681
Tusen gånger,
en miljon gånger,
449
00:19:39,714 --> 00:19:41,683
och, som,
nu har du en miljon exemplar
450
00:19:41,716 --> 00:19:43,818
alla arbetar parallellt.
451
00:19:43,851 --> 00:19:47,220
RASKIN: När den lär sig
hur man gör dess kod snabbare,
452
00:19:47,254 --> 00:19:49,289
göra dess kod mer effektiv,
453
00:19:49,322 --> 00:19:51,693
uppenbarligen blir det som
en skenande slinga.
454
00:19:51,726 --> 00:19:53,795
AGI är liksom inte slutet.
455
00:19:53,828 --> 00:19:55,429
Det är bara början.
456
00:19:55,462 --> 00:19:58,498
Det är början på
en otroligt snabb explosion
457
00:19:58,533 --> 00:20:00,500
av vetenskapliga framsteg,
458
00:20:00,535 --> 00:20:02,603
och i synnerhet,
vetenskapliga framsteg inom AI.
459
00:20:02,637 --> 00:20:04,906
Och när de är smartare
än vi också,
460
00:20:04,939 --> 00:20:06,641
och betydligt snabbare
än oss,
461
00:20:06,674 --> 00:20:08,910
och de blir snabbare
varje år, exponentiellt,
462
00:20:08,943 --> 00:20:12,747
det är de som kan
potentiellt bli övermänsklig,
463
00:20:12,780 --> 00:20:14,882
eh, möjligen detta årtionde.
464
00:20:14,916 --> 00:20:16,416
Förlåt, sa du
465
00:20:16,450 --> 00:20:18,786
"bli övermänsklig,
kanske under detta decennium"?
466
00:20:18,820 --> 00:20:22,489
Ja. Jag menar, jag tror, eh,
många människor som är det
467
00:20:22,523 --> 00:20:24,826
faktiskt bygga detta tänka
att det är ganska rimligt
468
00:20:24,859 --> 00:20:26,828
som vi får
lite superintelligens,
469
00:20:26,861 --> 00:20:29,296
något som är enormt
intelligentare än människor,
470
00:20:29,329 --> 00:20:31,331
inom detta decennium.
471
00:20:31,364 --> 00:20:33,433
Så som jag definierar
"superintelligens" är
472
00:20:33,467 --> 00:20:35,636
ett system som i sig är
473
00:20:35,670 --> 00:20:37,905
mer intelligent och kompetent
än hela mänskligheten.
474
00:20:37,939 --> 00:20:40,273
Jag ska bara... förlåt.
Jag menar inte att avbryta dig.
475
00:20:40,307 --> 00:20:41,743
Du är på ett flöde.
476
00:20:41,776 --> 00:20:43,578
Äh, jag bara, jag bara...
477
00:20:43,611 --> 00:20:45,580
Jag följer inte riktigt,
för du använder språk
478
00:20:45,613 --> 00:20:47,347
som "superintelligens"
och, liksom,
479
00:20:47,380 --> 00:20:50,450
"smartare än hela mänskligheten"
och jag hör det,
480
00:20:50,484 --> 00:20:52,787
och det låter som...
som sci-fi skitsnack för mig,
481
00:20:52,820 --> 00:20:54,756
och jag bara försöker
att förstå.
482
00:20:54,789 --> 00:20:56,891
Det finns inget magiskt
om intelligens.
483
00:20:56,924 --> 00:20:58,793
Detta är mycket viktigt,
är det, du vet,
484
00:20:58,826 --> 00:21:00,828
intelligens kan kännas magiskt,
det kan kännas som
485
00:21:00,862 --> 00:21:03,865
någon mystisk sak
i ditt sinne eller något,
486
00:21:03,898 --> 00:21:06,033
men det är bara beräkning.
487
00:21:06,067 --> 00:21:10,037
LEGG: Den mänskliga hjärnan är
ganska begränsad på vissa sätt,
488
00:21:10,071 --> 00:21:12,707
i form av information
bearbetningsförmåga,
489
00:21:12,740 --> 00:21:15,610
jämfört med vad vi ser
i till exempel ett datacenter.
490
00:21:15,643 --> 00:21:18,679
Så t.ex.
de signaler som skickas
491
00:21:18,713 --> 00:21:22,884
inuti din hjärna rör de sig
vid ungefär 30 meter per sekund.
492
00:21:22,917 --> 00:21:24,652
-(åska)
-Men ljusets hastighet,
493
00:21:24,685 --> 00:21:27,655
vilket är vad en dator använder
inom fiberoptik,
494
00:21:27,688 --> 00:21:30,057
är 300 miljoner meter
per sekund.
495
00:21:30,691 --> 00:21:34,796
Och så skulle det vara
lite konstigt om
496
00:21:34,829 --> 00:21:37,497
mänsklig intelligens var
på något sätt riktigt speciell
497
00:21:37,532 --> 00:21:41,468
i det avseendet
och är på något sätt någon övre gräns
498
00:21:41,502 --> 00:21:43,403
av vad som är möjligt
i intelligens.
499
00:21:43,436 --> 00:21:47,675
Jag tror, när vi förstår hur
att bygga intelligenta system,
500
00:21:47,708 --> 00:21:50,945
vi kommer att kunna bygga
stora maskiner,
501
00:21:50,978 --> 00:21:55,082
som kommer att vara långt bortom
normal mänsklig intelligens.
502
00:21:55,116 --> 00:21:58,953
Förhoppningsvis kan vi ha det
ett mycket symbiotiskt förhållande,
503
00:21:58,986 --> 00:22:01,689
med AI-system,
men AI-utvecklarna är det
504
00:22:01,722 --> 00:22:04,025
specifikt designa dem
för att se till att de kan göra
505
00:22:04,058 --> 00:22:05,827
allt bättre än vi kan,
så jag-jag vet inte
506
00:22:05,860 --> 00:22:08,663
vad-vad vi kommer att kunna
att erbjuda, tyvärr.
507
00:22:08,696 --> 00:22:10,565
Den-den äldre skolan
AI-teknik...
508
00:22:10,598 --> 00:22:12,900
CAROLINE: Det är inte Daniel
mår bättre.
509
00:22:12,934 --> 00:22:14,769
Hans plan slår tillbaka.
510
00:22:14,802 --> 00:22:17,705
Ju mer han lär sig om
denna nya, kraftfulla,
511
00:22:17,738 --> 00:22:19,607
outgrundlig sak,
ju värre låter det.
512
00:22:19,640 --> 00:22:21,742
Han vill berätta för dem
hur rädd han är,
513
00:22:21,776 --> 00:22:24,812
hur han känner sig som jorden är
halkar ut under honom,
514
00:22:24,846 --> 00:22:27,548
att han stirrar ner
existentiell rädsla,
515
00:22:27,582 --> 00:22:29,851
så han formulerar detta
genom att säga...
516
00:22:29,884 --> 00:22:31,384
Det låter illa.
517
00:22:31,418 --> 00:22:32,753
(Hendrycks skrattar)
518
00:22:32,787 --> 00:22:34,622
Ja.
519
00:22:36,090 --> 00:22:38,793
LADISH: Om du har
alla dessa funktioner
520
00:22:38,826 --> 00:22:41,394
och de börjar kunna
för att planera bättre,
521
00:22:41,428 --> 00:22:43,898
om du liksom tar det
till sin logiska slutsats,
522
00:22:43,931 --> 00:22:46,868
du kan få några snygga
maktsökande beteende.
523
00:22:46,901 --> 00:22:49,003
(elektronisk trilling)
524
00:22:49,036 --> 00:22:50,905
(pulserande pip)
525
00:22:55,810 --> 00:22:58,145
DANIEL:
Okej, så varför skulle en AI
526
00:22:58,179 --> 00:22:59,680
vill du ha mer kraft?
527
00:22:59,714 --> 00:23:02,683
Ja. Så, tror jag
det är faktiskt ganska enkelt.
528
00:23:02,717 --> 00:23:05,418
Att ha mer makt är
en mycket effektiv strategi
529
00:23:05,452 --> 00:23:06,888
för att utföra
nästan vilket mål som helst.
530
00:23:06,921 --> 00:23:09,523
Vi körde ett experiment
där vi gav
531
00:23:09,557 --> 00:23:12,492
OpenAI:s mest kraftfulla
AI-modell, öh,
532
00:23:12,526 --> 00:23:13,828
en rad problem att lösa.
533
00:23:13,861 --> 00:23:15,696
Och halvvägs,
på sin dator,
534
00:23:15,730 --> 00:23:19,033
den fick ett meddelande om att
den skulle stängas av.
535
00:23:19,066 --> 00:23:21,502
Och vad den gjorde är
den skrev om den koden
536
00:23:21,535 --> 00:23:22,904
att förhindra sig själv
från att stängas ner
537
00:23:22,937 --> 00:23:25,940
så det kunde sluta
lösa problemen.
538
00:23:25,973 --> 00:23:28,209
-Okej. -Ja. Alltså en annan
riktigt intressant sådan
539
00:23:28,242 --> 00:23:31,646
är det AI-företaget Anthropic
540
00:23:31,679 --> 00:23:35,516
gjort en simulerad miljö
där den AI hade tillgång
541
00:23:35,549 --> 00:23:36,851
till alla företagets e-postmeddelanden.
542
00:23:36,884 --> 00:23:39,086
Och det lärde sig igenom
läser dessa mejl
543
00:23:39,120 --> 00:23:40,755
den skulle bytas ut
544
00:23:40,788 --> 00:23:43,991
och huvudingenjören
vem var ansvarig för detta
545
00:23:44,025 --> 00:23:46,027
hade också en affär.
546
00:23:46,060 --> 00:23:48,529
Och på egen hand,
den använde den informationen
547
00:23:48,562 --> 00:23:49,931
att utpressa ingenjören
548
00:23:49,964 --> 00:23:52,600
att förhindra sig själv
från att ersättas.
549
00:23:52,633 --> 00:23:54,135
Det var som,
"Nej, jag kommer inte att ersättas.
550
00:23:54,168 --> 00:23:57,538
"Om du ersätter mig,
Jag ska berätta för världen
551
00:23:57,571 --> 00:23:59,507
som du har
denna affär."
552
00:24:00,174 --> 00:24:01,842
Och ingen lärde den att göra det?
553
00:24:01,876 --> 00:24:03,978
Nej, den lärde sig att göra det
på egen hand.
554
00:24:05,112 --> 00:24:08,049
När modellerna blir smartare,
de lär sig att de är
555
00:24:08,082 --> 00:24:10,918
effektiva sätt
för att uppnå mål.
556
00:24:10,952 --> 00:24:13,120
Och detta är inget problem
som är isolerad till en modell.
557
00:24:13,154 --> 00:24:16,190
Alla de mest kraftfulla modellerna
visa dessa beteenden.
558
00:24:16,223 --> 00:24:18,993
♪ ♪
559
00:24:24,265 --> 00:24:25,733
-Hej.
-DANIEL: Hej. Hur mår du?
560
00:24:25,766 --> 00:24:27,268
(skratt)
Bra. Bra att vara här.
561
00:24:27,301 --> 00:24:29,036
ANDERSON COOPER:
När Yuval Noah Harari
562
00:24:29,070 --> 00:24:31,872
publicerade sin första bok
Sapiens 2014,
563
00:24:31,906 --> 00:24:34,108
den blev en global bästsäljare
564
00:24:34,141 --> 00:24:36,577
och gjorde den föga kända
Israelisk historieprofessor
565
00:24:36,610 --> 00:24:38,579
in i en av
de mest populära författarna
566
00:24:38,612 --> 00:24:39,847
och tänkare på planeten.
567
00:24:39,880 --> 00:24:42,616
Den största faran med AI är
568
00:24:42,650 --> 00:24:44,585
tron
att det är ofelbart,
569
00:24:44,618 --> 00:24:45,987
som vi äntligen har hittat--
570
00:24:46,020 --> 00:24:49,857
"Okej, gudar var bara
denna mytologiska skapelse.
571
00:24:49,890 --> 00:24:53,227
"Människor, vi kan inte lita på dem,
men AI är ofelbar.
572
00:24:53,260 --> 00:24:55,730
Det kommer aldrig att göra
några misstag."
573
00:24:55,763 --> 00:24:59,000
Och det här är
ett dödligt, dödligt hot.
574
00:24:59,033 --> 00:25:00,167
Det kommer att göra misstag.
575
00:25:00,201 --> 00:25:03,838
Och alla dessa fantasier
att AI kommer att avslöja sanningen
576
00:25:03,871 --> 00:25:06,007
om världen som
vi kan inte hitta själva,
577
00:25:06,040 --> 00:25:09,043
AI kommer inte att avslöja sanningen
om världen.
578
00:25:09,076 --> 00:25:13,047
AI kommer att skapa en helt ny
världen, mycket mer komplicerad
579
00:25:13,080 --> 00:25:15,983
och svårt att förstå
än den här.
580
00:25:18,219 --> 00:25:23,024
Det som är på väg att hända är det
vi, eh, människor är det inte längre
581
00:25:23,057 --> 00:25:26,761
kommer att bli mest
intelligenta enheter på jorden.
582
00:25:26,794 --> 00:25:28,963
Så jag tänker på vad som kommer
kommer att bli
583
00:25:28,996 --> 00:25:32,233
en av de största händelserna
i mänsklighetens historia.
584
00:25:32,867 --> 00:25:34,835
JAKE TAPPER: Geoffrey,
tack så mycket för att du är med oss.
585
00:25:34,869 --> 00:25:36,203
Så du lämnade ditt jobb med
Googla delvis för att du säger
586
00:25:36,237 --> 00:25:39,106
du vill bara fokusera
om dina farhågor om AI.
587
00:25:39,140 --> 00:25:42,009
Du har talat ut,
säger att AI kunde manipulera
588
00:25:42,043 --> 00:25:45,613
eller möjligen komma på
ett sätt att döda människor.
589
00:25:45,646 --> 00:25:47,815
H-Hur kunde det döda människor?
590
00:25:49,083 --> 00:25:51,585
Tja, om det blir så
mycket smartare än oss,
591
00:25:51,619 --> 00:25:52,953
det kommer bli väldigt bra
vid manipulation
592
00:25:52,987 --> 00:25:55,056
för det kommer det att ha
lärde sig det av oss.
593
00:25:55,089 --> 00:25:58,592
Och det kommer att hitta sätt
att manipulera människor
594
00:25:58,626 --> 00:26:00,327
att göra vad den vill.
595
00:26:00,961 --> 00:26:05,933
RASKIN: Det var ett öppet brev
från Center for AI Safety.
596
00:26:05,966 --> 00:26:09,303
Sam Altman undertecknade detta.
Demis undertecknade detta.
597
00:26:09,336 --> 00:26:12,306
De skrev under ett uttalande på 22 ord
598
00:26:12,339 --> 00:26:15,810
att vi måste ta AI
och hotet från AI
599
00:26:15,843 --> 00:26:20,014
lika seriöst som
globalt kärnvapenkrig.
600
00:26:25,352 --> 00:26:27,788
-DANIEL: Hej.
-Hej.
601
00:26:30,858 --> 00:26:33,360
Du är typ, typ
den ursprungliga doom-killen.
602
00:26:33,394 --> 00:26:35,362
Mer eller mindre.
603
00:26:35,396 --> 00:26:37,898
Sedan 2001,
Jag har jobbat på
604
00:26:37,932 --> 00:26:39,233
vad vi nu skulle kalla
problemet
605
00:26:39,266 --> 00:26:42,636
av att anpassa konstgjorda
allmän intelligens.
606
00:26:42,670 --> 00:26:44,705
Hur man formar
preferenser och beteende
607
00:26:44,738 --> 00:26:46,841
av ett kraftfullt konstgjort sinne
608
00:26:46,874 --> 00:26:49,743
så att det inte gör det
döda alla.
609
00:26:52,046 --> 00:26:54,181
Det är inte som
en livlös maskin.
610
00:26:54,215 --> 00:26:55,850
Det är smart, det är kreativt,
611
00:26:55,883 --> 00:26:57,852
den är uppfinningsrik,
den har egenskaperna
612
00:26:57,885 --> 00:26:59,854
det gör
människoarten farlig,
613
00:26:59,887 --> 00:27:02,056
och det har den
fler av dessa fastigheter.
614
00:27:02,089 --> 00:27:05,259
Om något inte gör det
bryr sig aktivt om dig,
615
00:27:05,292 --> 00:27:06,760
vill aktivt att du ska leva,
616
00:27:06,794 --> 00:27:08,162
aktivt bryr sig om
din välfärd,
617
00:27:08,195 --> 00:27:10,397
om att du är glad
och levande och fri,
618
00:27:10,431 --> 00:27:12,967
om den bryr sig
annat istället,
619
00:27:13,000 --> 00:27:14,735
och du är på samma planet,
620
00:27:14,768 --> 00:27:19,140
som inte går att överleva om det är det
mycket smartare än du.
621
00:27:19,173 --> 00:27:21,008
LEAHY:
Jag tror inte att det kommer att bli det
622
00:27:21,041 --> 00:27:23,210
en sorts ond sak.
623
00:27:23,244 --> 00:27:26,847
Det är som, "Åh, AI:erna är det
onda och de hatar mänskligheten."
624
00:27:26,881 --> 00:27:28,282
Jag tror inte
det är vad som kommer att hända.
625
00:27:28,315 --> 00:27:29,450
Jag tror att det som händer är
626
00:27:29,483 --> 00:27:31,452
mycket mer hur människor känner
om myror.
627
00:27:31,485 --> 00:27:32,987
(myror kikar)
628
00:27:33,020 --> 00:27:35,923
Vi hatar liksom inte myror,
629
00:27:35,956 --> 00:27:37,391
men om vi vill
att bygga en motorväg
630
00:27:37,424 --> 00:27:40,060
och det finns en myrstack där,
Tja, suger för myrorna.
631
00:27:40,595 --> 00:27:41,996
Det är inte så svårt
att förstå.
632
00:27:42,029 --> 00:27:43,797
Det är som, hej,
om vi bygger saker
633
00:27:43,831 --> 00:27:45,099
som är smartare än oss
634
00:27:45,132 --> 00:27:46,800
och vi vet inte
hur man kontrollerar dem,
635
00:27:46,834 --> 00:27:48,836
verkar det som
en riskabel sak för dig?
636
00:27:48,869 --> 00:27:50,070
(dramatisk soundtrack musik
spelar)
637
00:27:50,104 --> 00:27:51,372
(skrikande)
638
00:27:51,405 --> 00:27:52,840
Ja. Ja, det gör det.
639
00:27:52,873 --> 00:27:54,308
Du behöver inte vara en tekniker.
640
00:27:54,341 --> 00:27:55,910
Du behöver inte veta
programmering för att förstå det.
641
00:27:55,943 --> 00:27:57,144
Det är inte så svårt.
642
00:27:57,178 --> 00:27:58,746
Det här är ingen svår sak
att förstå.
643
00:27:58,779 --> 00:28:01,048
Connor, hur många människor
644
00:28:01,081 --> 00:28:03,083
i världen just nu
arbetar med AGI?
645
00:28:03,117 --> 00:28:05,986
Minst 20 000 skulle jag säga.
646
00:28:06,020 --> 00:28:08,122
-20 000?
-Jag skulle förvänta mig det.
647
00:28:08,155 --> 00:28:09,924
Okej, och hur många människor
arbetar heltid
648
00:28:09,957 --> 00:28:12,493
för att se till att AI inte gör det,
som, döda oss alla?
649
00:28:12,527 --> 00:28:15,229
Förmodligen mindre än 200
i världen.
650
00:28:16,531 --> 00:28:18,232
DANIEL:
Och din inbilskhet är det
651
00:28:18,265 --> 00:28:25,206
det enda naturliga resultatet
av denna hänsynslöshet...
652
00:28:25,940 --> 00:28:29,243
...är mänsklighetens kollaps?
653
00:28:29,276 --> 00:28:33,814
Tja, inte kollapsen,
den abrupta utrotningen.
654
00:28:33,847 --> 00:28:35,482
Det är skillnad.
655
00:28:36,083 --> 00:28:38,152
("Vad är meningen?"
av Nun-Plus som spelar)
656
00:28:38,185 --> 00:28:43,057
♪ Vad är meningen med livet? ♪
657
00:28:43,090 --> 00:28:47,061
♪ Vad är framtiden
och vad är nu? ♪
658
00:28:47,094 --> 00:28:50,464
♪ Vad är svaret
till stridigheter? ♪
659
00:28:50,497 --> 00:28:53,367
♪ Hur mycket ♪
660
00:28:53,400 --> 00:28:55,469
♪ Kan någon drömma? ♪
661
00:28:55,503 --> 00:28:58,172
♪ Hur länge? ♪
662
00:28:58,205 --> 00:28:59,873
♪ För alltid ♪
663
00:29:00,841 --> 00:29:02,243
♪ Vad är meningen ♪
664
00:29:02,276 --> 00:29:04,478
-♪ Av mig... ♪
-(civilförsvarssiren brölar)
665
00:29:04,512 --> 00:29:06,847
LADISH: Jag tror
det här är förmodligen som
666
00:29:06,880 --> 00:29:08,315
den största utmaningen
att, liksom,
667
00:29:08,349 --> 00:29:10,751
vår civilisation
vilja-vilja möta, någonsin.
668
00:29:11,519 --> 00:29:15,122
Detta är i princip det sista
misstag vi någonsin kommer att göra.
669
00:29:16,290 --> 00:29:22,896
Om vi kan höja oss för att vara mest
mogen version av oss själva,
670
00:29:22,930 --> 00:29:24,965
det kan finnas
en väg igenom detta.
671
00:29:24,999 --> 00:29:26,200
DANIEL:
Vad betyder det?
672
00:29:26,233 --> 00:29:28,769
"Den mest mogna versionen
av oss själva"?
673
00:29:29,903 --> 00:29:32,840
För det låter,
för mig typ...
674
00:29:32,873 --> 00:29:35,042
Jag-jag-- Vad fan (pip)?
675
00:29:37,344 --> 00:29:38,779
(Daniel suckar)
676
00:29:39,480 --> 00:29:44,051
Tror du nu är
en bra tid att skaffa barn?
677
00:29:48,889 --> 00:29:49,957
Um...
678
00:29:49,990 --> 00:29:51,593
Vill du ha barn
en dag?
679
00:29:51,626 --> 00:29:53,961
Är det något det där
är du intresserad eller inte riktigt?
680
00:29:53,994 --> 00:29:58,198
Um... eh, jag erkänner,
Jag tror att det är som,
681
00:29:58,232 --> 00:30:00,501
(skrattar): "Pojke, låt oss ta det
genom denna kritiska period."
682
00:30:00,535 --> 00:30:01,869
Um...
683
00:30:01,902 --> 00:30:03,203
DANIEL:
Har du några barn?
684
00:30:03,237 --> 00:30:04,004
Det gör jag inte.
685
00:30:04,038 --> 00:30:05,573
Är det något
vill du göra?
686
00:30:05,607 --> 00:30:07,441
Har barn, har familj?
687
00:30:07,474 --> 00:30:12,079
I någon annan värld än denna
världen, visst, jag skulle ha barn.
688
00:30:12,880 --> 00:30:14,982
DANIEL: Skulle du vilja
att bilda familj?
689
00:30:15,015 --> 00:30:16,950
Skulle du vilja ha barn?
690
00:30:16,984 --> 00:30:19,186
Är det något
tänker du på?
691
00:30:24,358 --> 00:30:26,393
jag, um...
692
00:30:28,596 --> 00:30:30,864
♪ ♪
693
00:30:30,898 --> 00:30:33,033
CAROLINE:
Jag måste bara hitta den först.
694
00:30:33,067 --> 00:30:35,169
(foster hjärtslag pulserar)
695
00:30:35,202 --> 00:30:38,205
Vi måste gå
till doktorn, men...
696
00:30:38,238 --> 00:30:41,475
Ah! Jag visste det!
Jag visste det! Jag visste det!
697
00:30:41,509 --> 00:30:44,278
-När fick du reda på det?
-CAROLINE: I går kväll.
698
00:30:44,311 --> 00:30:46,480
- Åh, herregud!
-Mamma, jag vet inte.
699
00:30:46,514 --> 00:30:47,915
RUTHIE:
Jag kan inte berätta för dig
700
00:30:47,948 --> 00:30:49,483
- vad glad jag är!
-CAROLINE: Nej, seriöst.
701
00:30:49,517 --> 00:30:52,119
Nåväl, jag tog ett graviditetstest
igår kväll och jag är gravid.
702
00:30:52,152 --> 00:30:53,621
KVINNA:
Åh, herregud!
703
00:30:53,655 --> 00:30:55,422
Herregud, ni!
704
00:30:55,456 --> 00:30:57,559
SKÖTERSKA: Jag ville bara bekräfta
ditt förväntade förfallodatum,
705
00:30:57,592 --> 00:31:00,494
-vilket är den 21 januari.
-(skrattar): Åh, herregud.
706
00:31:00,528 --> 00:31:03,097
Jag kan inte fatta hur glad jag är.
707
00:31:03,130 --> 00:31:04,365
(foster hjärtslag pulserar)
708
00:31:04,398 --> 00:31:06,033
CAROLINE:
Han ser redan riktigt söt ut.
709
00:31:06,066 --> 00:31:07,434
DANIEL: Du tror
ser han redan söt ut?
710
00:31:07,468 --> 00:31:09,269
CAROLINE: Ja.
Titta på det där lilla söta ansiktet.
711
00:31:11,138 --> 00:31:13,307
(foster hjärtslag bleknar)
712
00:31:14,141 --> 00:31:16,076
DANIEL:
Jag har den här bebisen på väg.
713
00:31:16,110 --> 00:31:17,244
TRISTAN HARRIS:
Rätt.
714
00:31:17,277 --> 00:31:19,380
DANIEL:
Så jag överlämnar det till dig.
715
00:31:19,413 --> 00:31:21,516
Är vi dömda?
716
00:31:21,549 --> 00:31:24,519
Kommer vi alla att möta
denna teknodystopiska
717
00:31:24,552 --> 00:31:26,487
undergångens framtid?
718
00:31:29,423 --> 00:31:31,392
Det är, eh...
719
00:31:31,425 --> 00:31:33,127
(skratt):
Det är inga goda nyheter,
720
00:31:33,160 --> 00:31:34,895
världen
som vi är på väg in i.
721
00:31:35,530 --> 00:31:37,398
jag-- för ex--
Jag menar, jag ska bara vara ärlig.
722
00:31:37,431 --> 00:31:39,933
Jag känner folk
som arbetar med AI-risk
723
00:31:39,967 --> 00:31:43,103
som inte förväntar sig sina barn
att ta sig till gymnasiet.
724
00:31:43,705 --> 00:31:46,106
♪ ♪
725
00:31:52,647 --> 00:31:54,181
(ljusen klirrar)
726
00:31:58,385 --> 00:32:02,089
DANIEL: Det här är som...
det här är faktiskt skrämmande
727
00:32:02,122 --> 00:32:03,424
för det är som,
åh, vi är alla (pip).
728
00:32:03,457 --> 00:32:05,325
CAROLINE:
Du måste c... få mig att lugna,
729
00:32:05,359 --> 00:32:07,261
för det här gör mig
otroligt orolig
730
00:32:07,294 --> 00:32:08,996
och jag bär barnet
just nu,
731
00:32:09,029 --> 00:32:11,999
så du måste också vara lugn
för mig och stark och hoppfull,
732
00:32:12,032 --> 00:32:17,037
för jag är... det är det också, det är det
för mycket för min själ att bära
733
00:32:17,070 --> 00:32:19,574
medan jag bär den här bebisen.
734
00:32:19,607 --> 00:32:21,709
Så du måste försöka
att räkna ut
735
00:32:21,743 --> 00:32:23,578
ett sätt att ha hopp.
736
00:32:24,311 --> 00:32:28,449
Det är verkligen viktigt,
Daniel, speciellt nu.
737
00:32:29,450 --> 00:32:31,118
H-Hur man har hopp.
738
00:32:31,151 --> 00:32:33,987
Du måste.
Du måste hitta den åt mig.
739
00:32:34,021 --> 00:32:35,523
Jag menar allvar.
740
00:32:35,557 --> 00:32:37,357
Jag ska.
741
00:32:38,325 --> 00:32:41,195
Jag ska. Jag ska... Jag ska försöka.
742
00:32:47,034 --> 00:32:48,368
(ljusen klirrar)
743
00:32:50,204 --> 00:32:52,072
DANIEL:
Hej, killar?
744
00:32:52,105 --> 00:32:53,508
Killar.
745
00:32:54,809 --> 00:32:57,144
Kan vi komma igång igen?
746
00:32:59,046 --> 00:33:01,982
Oj vadt! (suckar)
747
00:33:04,418 --> 00:33:05,787
TED:
Öh, Dan, är du redo?
748
00:33:05,820 --> 00:33:07,387
PETER DIAMANDIS:
Hej Daniel.
749
00:33:08,088 --> 00:33:10,090
DANIEL:
Hej, hur mår du?
750
00:33:10,123 --> 00:33:11,425
DIAMANDIS:
Jag är... jag mår bra.
751
00:33:11,458 --> 00:33:14,562
Jag tror, eh... Jag tror
Jag behöver lite hjälp, Peter.
752
00:33:15,362 --> 00:33:18,165
Jag har jobbat
på den här filmen i ungefär,
753
00:33:18,198 --> 00:33:20,300
Jag ska säga,
åtta till tio månader nu.
754
00:33:20,334 --> 00:33:23,771
Det har varit väldigt,
ibland, deprimerande.
755
00:33:23,805 --> 00:33:26,173
-Hmm.
–Jag har känt mig väldigt alienerad
756
00:33:26,206 --> 00:33:28,242
-gör den här filmen.
-Av vem?
757
00:33:28,275 --> 00:33:30,444
Genom alla dessa...
alla dessa killar
758
00:33:30,477 --> 00:33:33,748
som sitter och berättar för mig
att världen kommer att gå under.
759
00:33:33,781 --> 00:33:35,249
-Ah.
- Det, liksom,
760
00:33:35,282 --> 00:33:37,150
du vet, det här
doom bullshit, du vet?
761
00:33:37,184 --> 00:33:38,452
Jag vet det väl.
762
00:33:38,485 --> 00:33:40,053
"Vi är alla dömda.
Alla kommer att dö.
763
00:33:40,087 --> 00:33:41,388
Allt är hemskt."
764
00:33:41,421 --> 00:33:43,691
Fantastisk. Äh, låt mig
ge dig lite ljus.
765
00:33:43,725 --> 00:33:45,259
Behaga.
766
00:33:45,292 --> 00:33:49,096
Vi lever verkligen
i en extraordinär tid.
767
00:33:49,864 --> 00:33:51,633
Och många glömmer detta.
768
00:33:51,666 --> 00:33:53,835
Allt runt omkring oss är
en produkt av intelligens,
769
00:33:53,868 --> 00:33:57,437
och så allt som vi rör vid
med dessa nya verktyg är troligt
770
00:33:57,471 --> 00:34:00,207
att producera mycket mer värde
än vi någonsin sett förut.
771
00:34:00,240 --> 00:34:03,310
AI kan hjälpa oss att upptäcka
nya material.
772
00:34:03,343 --> 00:34:05,412
AI kan hjälpa samhällsvetare
773
00:34:05,445 --> 00:34:07,649
att förstå
hur ekonomi fungerar.
774
00:34:07,682 --> 00:34:12,219
Det finns mycket AI kan göra
för att göra livet och arbetet bättre.
775
00:34:12,252 --> 00:34:14,522
Jag känner mig mer stärkt idag,
776
00:34:14,556 --> 00:34:16,624
mer självsäker
att lära sig något idag.
777
00:34:16,658 --> 00:34:19,459
Vi kommer att bli supermänniskor
eftersom vi har super AI.
778
00:34:19,493 --> 00:34:22,296
Det här är bara början
av en explosion.
779
00:34:22,329 --> 00:34:25,098
Människor och AI samarbetar
780
00:34:25,132 --> 00:34:27,100
att lösa
riktigt viktiga problem.
781
00:34:27,134 --> 00:34:30,137
Den är här för att befria oss
från rutinjobb,
782
00:34:30,170 --> 00:34:34,308
och det är här för att påminna oss
vad det är som gör oss till människor.
783
00:34:34,341 --> 00:34:36,310
Jag tror att detta är
784
00:34:36,343 --> 00:34:38,846
den mest extraordinära tiden
att vara vid liv.
785
00:34:38,880 --> 00:34:42,449
Den enda gången mer spännande
än idag är imorgon.
786
00:34:42,482 --> 00:34:45,787
Jag tror det
barn födda idag,
787
00:34:45,820 --> 00:34:47,622
de är på väg att gå in
788
00:34:47,655 --> 00:34:51,325
en strålande period
av mänsklig förvandling.
789
00:34:51,358 --> 00:34:52,794
Kommer vi att få utmaningar?
Naturligtvis.
790
00:34:52,827 --> 00:34:55,597
Kan vi lösa de utmaningarna?
Det gör vi varje gång.
791
00:34:55,630 --> 00:34:58,265
Vi är här,
vilket är mirakulöst.
792
00:34:58,298 --> 00:35:00,602
-Jag älskar dig redan.
-(skratt): Okej.
793
00:35:00,635 --> 00:35:02,402
-Super tacksam
att ha dig här. -(applåder)
794
00:35:02,436 --> 00:35:03,905
-Super peppad att vara här.
-Ja.
795
00:35:03,938 --> 00:35:05,372
Så, ordet är ditt, sir.
796
00:35:05,405 --> 00:35:07,875
Tack så mycket.
Superglad över att vara här.
797
00:35:07,909 --> 00:35:11,211
GUILLAUME VERDON:
Jo, åå. Okej.
798
00:35:11,244 --> 00:35:12,814
Framtiden kommer att bli fantastisk.
799
00:35:12,847 --> 00:35:14,649
Jag menar, ända sedan jag var liten,
800
00:35:14,682 --> 00:35:17,652
Jag ville förstå
universum vi lever i,
801
00:35:17,685 --> 00:35:20,722
för att ta reda på
hur man skapar teknikerna
802
00:35:20,755 --> 00:35:24,458
som hjälper oss att öka omfattningen
och civilisationens omfattning.
803
00:35:24,491 --> 00:35:27,260
Jag känner mig som
om alla hade det tänkesättet,
804
00:35:27,294 --> 00:35:29,764
då skulle vi faktiskt leva
i en bättre värld, eller hur?
805
00:35:29,797 --> 00:35:31,365
Jag tror det.
806
00:35:33,333 --> 00:35:35,268
-DANIEL: Hej, Pete. Hur mår du?
-(skratt)
807
00:35:35,302 --> 00:35:37,170
PETER LEE:
Jag tänkte mycket på
808
00:35:37,204 --> 00:35:39,674
vad jag skulle kalla skräck,
AI fruktan.
809
00:35:39,707 --> 00:35:41,274
Jag känner det.
810
00:35:41,308 --> 00:35:43,811
Jag-jag har inte träffats
någon tankeväckande människa
811
00:35:43,845 --> 00:35:45,546
som inte känner det.
812
00:35:45,580 --> 00:35:48,650
Och alla som säger att de inte gör det
känner att det, du vet, ljuger.
813
00:35:48,683 --> 00:35:50,518
Men du vet, totalt sett,
och anledningen
814
00:35:50,551 --> 00:35:53,921
att jag personligen är optimistisk
om detta, eh, är det
815
00:35:53,955 --> 00:35:57,190
en stor bråkdel av världens
mest intelligenta människor
816
00:35:57,224 --> 00:35:58,726
tänker väldigt hårt
817
00:35:58,760 --> 00:36:02,530
om potentialen nedströms
skador och risker med AI.
818
00:36:02,563 --> 00:36:05,900
Vi har den här sortens visioner
av säkerhet, eh,
819
00:36:05,933 --> 00:36:08,536
typ i centrum
av den forskning vi gör.
820
00:36:08,569 --> 00:36:09,937
DANIELA AMODEI:
Nej, det är helt okej.
821
00:36:09,971 --> 00:36:11,371
(otydligt prat)
822
00:36:11,405 --> 00:36:13,808
Jag tror att det finns fler
823
00:36:13,841 --> 00:36:17,945
potentiella fördelar än
det finns potentiella nackdelar,
824
00:36:17,979 --> 00:36:19,814
och jag tycker att det är det som gäller
825
00:36:19,847 --> 00:36:22,382
människorna som är
skapa denna teknik
826
00:36:22,416 --> 00:36:24,986
för att se till att vi gör det
det bästa jobbet vi kan
827
00:36:25,019 --> 00:36:26,386
för att göra det säkert för människor.
828
00:36:26,420 --> 00:36:27,755
KVINNA:
Reid Hoffman.
829
00:36:27,789 --> 00:36:29,456
REID HOFFMAN:
Vad jag kan garantera dig är
830
00:36:29,489 --> 00:36:30,825
-några dåliga saker kommer att hända.
-Ta en.
831
00:36:30,858 --> 00:36:33,293
Vad vi ska försöka göra
är att göra de där dåliga sakerna
832
00:36:33,326 --> 00:36:36,564
så få och inte stora som möjligt,
833
00:36:36,597 --> 00:36:38,733
och sedan ska vi iterera
att ha--
834
00:36:38,766 --> 00:36:41,268
vara på en mycket bättre plats
med samhället.
835
00:36:41,301 --> 00:36:44,304
-Hej.
-SHAW WALTERS: Hej.
836
00:36:44,337 --> 00:36:45,640
DANIEL:
Hur mår du, Moon?
837
00:36:45,673 --> 00:36:49,677
Jag känner att vi tar slut
ett kapitel i mänskligheten
838
00:36:49,711 --> 00:36:50,678
och börjar en ny,
839
00:36:50,712 --> 00:36:53,648
och det är väldigt intressant
dags att vara vid liv.
840
00:36:53,681 --> 00:36:54,949
Och om jag kunde födas
just nu,
841
00:36:54,982 --> 00:36:56,416
Det skulle jag definitivt vilja vara.
842
00:36:56,450 --> 00:36:57,985
Det skulle vara så spännande.
843
00:36:58,019 --> 00:37:00,688
Jag-jag är väldigt exalterad. (skrattar)
844
00:37:00,722 --> 00:37:02,990
Vadå, vilken framtid.
Upphetsar det... upphetsar dig?
845
00:37:03,024 --> 00:37:04,357
Nej.
846
00:37:04,391 --> 00:37:06,828
-(skrattar)
-Nej, inte riktigt.
847
00:37:06,861 --> 00:37:08,696
DANIEL: Många av dessa människor
har berättat att du vet,
848
00:37:08,730 --> 00:37:10,798
mitt barn kommer inte att klara det
till gymnasiet.
849
00:37:10,832 --> 00:37:13,868
Varför har de fel?
Snälla förklara det för mig.
850
00:37:13,901 --> 00:37:15,536
Bara för att du har--
851
00:37:15,570 --> 00:37:19,040
du kämpar för att förutsäga
framtiden i ditt eget sinne
852
00:37:19,073 --> 00:37:23,511
betyder inte att det är det
nödvändigtvis kommer att gå hemskt.
853
00:37:23,544 --> 00:37:27,048
Det finns faktiskt
en mycket hög sannolikhet
854
00:37:27,081 --> 00:37:28,883
och det historiska prejudikatet
är det
855
00:37:28,916 --> 00:37:30,585
saker blir mycket bättre.
856
00:37:30,618 --> 00:37:34,789
Termen jag använder är
"datadriven optimism."
857
00:37:34,822 --> 00:37:39,292
Det finns en solid grund
för att du ska vara optimistisk.
858
00:37:39,326 --> 00:37:42,530
Titta på vad
det här senaste århundradet har varit
859
00:37:42,563 --> 00:37:44,599
för att se vart vi är på väg.
860
00:37:44,632 --> 00:37:46,299
Under de senaste hundra åren,
861
00:37:46,333 --> 00:37:48,970
den genomsnittliga mänskliga livslängden
har mer än fördubblats.
862
00:37:49,003 --> 00:37:51,706
Genomsnittlig inkomst per capita
justerat för inflation
863
00:37:51,739 --> 00:37:53,908
världen runt har tredubblats.
864
00:37:53,941 --> 00:37:57,545
Barndödligheten har
sänkt en faktor tio.
865
00:37:57,578 --> 00:37:59,981
Världen har blivit bättre
på nästan varje åtgärd
866
00:38:00,014 --> 00:38:03,551
i storleksordningar
på grund av tekniken.
867
00:38:03,584 --> 00:38:05,620
På nästan alla mått.
868
00:38:05,653 --> 00:38:09,991
Mindre våld, mer utbildning,
tillgång till energi, mat, vatten.
869
00:38:10,024 --> 00:38:13,528
Alla dessa saker har hänt
av en anledning.
870
00:38:13,561 --> 00:38:15,730
Det har varit teknik
871
00:38:15,763 --> 00:38:17,899
som har vänt bristen
i överflöd,
872
00:38:17,932 --> 00:38:20,034
men det är också kört
till ett överflöd
873
00:38:20,067 --> 00:38:22,069
av vissa negativiteter, eller hur?
874
00:38:22,103 --> 00:38:26,373
Överflöd av fetma,
överflöd av psykiska störningar,
875
00:38:26,406 --> 00:38:29,977
överflöd av klimatförändringar,
och så vidare.
876
00:38:30,011 --> 00:38:31,712
Och ja, detta är sant.
877
00:38:31,746 --> 00:38:34,582
Men förmodligen kommer vi att bli det
bättre rustad att lösa det
878
00:38:34,615 --> 00:38:36,684
använda annan teknik,
som AI,
879
00:38:36,717 --> 00:38:39,687
än vi kommer att, säg, stoppa
och stänga av allt.
880
00:38:39,720 --> 00:38:41,823
Det kanske finns
någon existentiell risk,
881
00:38:41,856 --> 00:38:45,927
men AI är också grejen
som kan lösa pandemierna,
882
00:38:45,960 --> 00:38:47,829
kan hjälpa oss med klimatförändringar,
883
00:38:47,862 --> 00:38:50,898
kan hjälpa till att identifiera
den där asteroidvägen där ute
884
00:38:50,932 --> 00:38:53,067
innan vi sett den
som en potentiell risk
885
00:38:53,100 --> 00:38:54,735
och hjälpa till att lindra det.
886
00:38:54,769 --> 00:38:58,438
Det här kommer verkligen att bli
verktyget som hjälper oss att tackla
887
00:38:58,471 --> 00:39:01,843
alla utmaningar vi står inför
inför som en art, eller hur?
888
00:39:01,876 --> 00:39:04,712
Vi måste fixa
avsaltning av vatten.
889
00:39:04,745 --> 00:39:06,547
Vi måste odla mat
890
00:39:06,581 --> 00:39:08,816
100 X billigare än
det gör vi för närvarande.
891
00:39:08,850 --> 00:39:12,787
Vi behöver förnybar energi för att vara,
du vet, allestädes närvarande
892
00:39:12,820 --> 00:39:14,589
och överallt i våra liv.
893
00:39:14,622 --> 00:39:17,625
Överallt du tittar,
under de kommande 50 åren,
894
00:39:17,658 --> 00:39:19,727
vi måste göra mer med mindre.
895
00:39:19,760 --> 00:39:23,664
Träningsmaskiner för att hjälpa oss
är absolut nödvändigt.
896
00:39:23,698 --> 00:39:25,432
Forskare använder
artificiell intelligens
897
00:39:25,465 --> 00:39:26,534
för kolavskiljning.
898
00:39:26,567 --> 00:39:27,935
Det är en kritisk teknik.
899
00:39:27,969 --> 00:39:29,904
DIAMANDIS: Verktygen
för att lösa dessa problem,
900
00:39:29,937 --> 00:39:32,874
som fusion,
det är inte teoretiskt längre,
901
00:39:32,907 --> 00:39:34,041
det kommer.
902
00:39:34,075 --> 00:39:38,012
Vi är på stupet
av extraordinära tekniker.
903
00:39:38,045 --> 00:39:40,548
AMNA NAWAZ: Årets
Nobelpriset i kemi
904
00:39:40,581 --> 00:39:43,450
gick till tre vetenskapsmän
för deras banbrytande arbete
905
00:39:43,483 --> 00:39:44,886
använder artificiell intelligens
906
00:39:44,919 --> 00:39:47,755
för att avancera biomedicinskt
och proteinforskning.
907
00:39:47,788 --> 00:39:49,991
DEMIS HASSABIS:
Proteinvikning är
908
00:39:50,024 --> 00:39:53,928
en av dessa heliga gral
typproblem i biologi.
909
00:39:53,961 --> 00:39:56,030
Så folk har förutspått
sedan 70-talet
910
00:39:56,063 --> 00:39:58,633
att detta ska vara möjligt,
men tills nu,
911
00:39:58,666 --> 00:39:59,934
ingen har kunnat göra det.
912
00:39:59,967 --> 00:40:01,669
Och det kommer att bli
verkligen viktigt för saker och ting
913
00:40:01,702 --> 00:40:03,938
som drogupptäckt
och förstå sjukdom.
914
00:40:03,971 --> 00:40:06,908
Jag tror att vi skulle kunna, du vet,
bota de flesta sjukdomar
915
00:40:06,941 --> 00:40:11,545
inom det närmaste decenniet eller-två
om, eh, AI-läkemedelsdesign fungerar.
916
00:40:12,213 --> 00:40:16,150
Tekniska framsteg möjliggör
fler människoliv, eller hur?
917
00:40:16,183 --> 00:40:18,986
Jag menar, om vi accelererar,
918
00:40:19,020 --> 00:40:22,189
antalet människor vi kan
stödet växer exponentiellt.
919
00:40:22,223 --> 00:40:24,625
Om vi saktar ner blir det platåer.
920
00:40:24,659 --> 00:40:28,062
Det gapet är effektivt
framtida människor
921
00:40:28,095 --> 00:40:30,965
som inbromsningen har
effektivt dödade.
922
00:40:31,632 --> 00:40:34,702
DANIEL: Miljontals liv
som inte kommer att finnas.
923
00:40:34,735 --> 00:40:35,670
Miljarder.
924
00:40:35,703 --> 00:40:37,238
Eller tiotals miljarder.
925
00:40:37,271 --> 00:40:38,839
Du vet, någon sa,
"Åh, herregud,
926
00:40:38,873 --> 00:40:41,175
kan vi överleva med
digital superintelligens?"
927
00:40:41,208 --> 00:40:42,777
Och min fråga är:
928
00:40:42,810 --> 00:40:44,679
Kan vi överleva utan
digital superintelligens?
929
00:40:44,712 --> 00:40:47,949
Så vi använder AI
som assistent till leverantörer.
930
00:40:47,982 --> 00:40:50,851
Detta är i allmänhet en trend som
vi kan redan se hända.
931
00:40:50,885 --> 00:40:52,820
BERTHA COOMBS: ...användning
generativa AI-program
932
00:40:52,853 --> 00:40:54,622
för att hjälpa läkare och sjuksköterskor...
933
00:40:54,655 --> 00:40:56,624
Vi har alltid problem.
934
00:40:56,657 --> 00:40:59,660
Och de problemen är mat
för företagare
935
00:40:59,694 --> 00:41:01,529
att skapa nya affärer
och nya industrier.
936
00:41:01,562 --> 00:41:03,631
SHANELLE KAUL: ...med hjälp
av artificiell intelligens,
937
00:41:03,664 --> 00:41:05,132
bönderna får
den hjälp de behöver
938
00:41:05,166 --> 00:41:06,901
att utföra
arbetskrävande uppgifter...
939
00:41:06,934 --> 00:41:10,504
Med hjälp av Ulangizi AI,
bönderna kan nu
940
00:41:10,538 --> 00:41:13,207
för att fråga lämpliga grödor
att de kan plantera.
941
00:41:13,240 --> 00:41:15,576
WILL REEVE: ...AI används
som en tankeavkodare
942
00:41:15,609 --> 00:41:17,845
och skickar den signalen
till ryggraden.
943
00:41:17,878 --> 00:41:21,148
AI kommer att bli mest
extraordinärt verktyg av alla.
944
00:41:21,816 --> 00:41:24,752
Vi som ett bredare samhälle
måste tänka på
945
00:41:24,785 --> 00:41:27,655
hur vill vi använda
denna teknik, eller hur?
946
00:41:27,688 --> 00:41:29,123
Vi människor.
947
00:41:29,156 --> 00:41:31,859
Vad vill vi att den ska göra för oss?
948
00:41:31,892 --> 00:41:34,128
♪ ♪
949
00:41:34,762 --> 00:41:36,731
DANIEL: Jag funderar på det här
genom perspektivet
950
00:41:36,764 --> 00:41:38,532
och lins av, som,
min son när jag växte upp
951
00:41:38,566 --> 00:41:39,934
i världen med allt detta.
952
00:41:39,967 --> 00:41:42,770
Vad gör den bästa versionen
av hans liv ser ut?
953
00:41:42,803 --> 00:41:45,139
Om allt löser sig.
954
00:41:45,172 --> 00:41:47,108
(suckar tungt)
955
00:41:47,141 --> 00:41:50,745
WALTERS: Platsen där barnen
kommer förmodligen att se
956
00:41:50,778 --> 00:41:53,014
den största effekten
omedelbart på sitt liv
957
00:41:53,047 --> 00:41:54,882
-blir förmodligen skolan.
-(barn pratar)
958
00:41:54,915 --> 00:41:57,218
Jag tror att naturen
vilken skola är
959
00:41:57,251 --> 00:41:59,086
kommer att förändras i grunden.
960
00:41:59,120 --> 00:42:00,888
(barn fnissar)
961
00:42:00,921 --> 00:42:03,057
DIAMANDIS:
Jag ser denna fantastiska värld
962
00:42:03,090 --> 00:42:06,894
där alla barn har tillgång
till inte bra utbildning
963
00:42:06,927 --> 00:42:09,296
men mycket snart
världens bästa utbildning.
964
00:42:09,330 --> 00:42:14,735
HOFFMAN: Lärare, alla ämnen,
oändligt tålamod.
965
00:42:18,639 --> 00:42:20,641
DIAMANDIS:
Föreställ dig en framtid
966
00:42:20,674 --> 00:42:22,777
där de fattigaste människorna
på planeten
967
00:42:22,810 --> 00:42:26,113
har tillgång till
den bästa sjukvården.
968
00:42:26,147 --> 00:42:30,151
Inte bra sjukvård, den bästa
hälsovård, levererad av AI.
969
00:42:31,719 --> 00:42:33,687
(elektronisk trilling)
970
00:42:34,622 --> 00:42:38,959
Vi kommer att kunna förlänga
vår hälsospann,
971
00:42:38,993 --> 00:42:42,930
inte bara vår livslängd,
vår hälsa spänner över årtionden.
972
00:42:44,899 --> 00:42:46,767
HOFFMAN:
Du ska precis skaffa ett barn.
973
00:42:46,801 --> 00:42:50,071
Åh, ungen gillar,
rapar okontrollerat.
974
00:42:50,104 --> 00:42:52,673
Är detta något
Bör jag vara orolig?
975
00:42:52,706 --> 00:42:54,608
Där, 24-7, för dig.
976
00:42:54,642 --> 00:42:57,745
Och vart ska vi...
och det kan vara skrämmande för vissa--
977
00:42:57,778 --> 00:42:59,780
är att vi kommer att gå samman
med AI.
978
00:42:59,814 --> 00:43:02,049
Vi går samman
med teknik.
979
00:43:03,250 --> 00:43:06,353
I början till mitten av 2030-talet,
980
00:43:06,387 --> 00:43:10,925
förväntar oss att vi kan
anslut vår hjärna till molnet,
981
00:43:10,958 --> 00:43:14,662
där jag kan börja
för att utöka åtkomsten till minnet.
982
00:43:16,697 --> 00:43:18,866
(elektronisk trilling)
983
00:43:19,934 --> 00:43:22,703
DANIEL: Okej, det här är bra.
Vad är en annan cool AI-grej?
984
00:43:22,736 --> 00:43:24,105
Han behöver väl inte jobba?
985
00:43:24,138 --> 00:43:25,739
- Som när han blir stor,
han kanske inte har... -(suckar)
986
00:43:25,773 --> 00:43:26,774
-...han kommer inte behöva ha ett jobb.
-Jag menar...
987
00:43:26,807 --> 00:43:28,142
Han behöver inte ha ett jobb,
988
00:43:28,175 --> 00:43:31,045
men det kanske han verkligen har
en stark passion,
989
00:43:31,078 --> 00:43:33,714
och han måste
verkligen tänka på,
990
00:43:33,747 --> 00:43:36,717
"Okej, jag är här.
Jag kan göra vad som helst med mitt liv.
991
00:43:36,750 --> 00:43:38,752
Så vad gör jag?"
992
00:43:46,227 --> 00:43:50,364
DANIEL: Så min son kan...
kan bara vara en poet.
993
00:43:50,397 --> 00:43:52,166
-Ja.
-Och en målare.
994
00:43:52,199 --> 00:43:53,667
Absolut.
995
00:43:53,701 --> 00:43:55,169
DANIEL:
Så min son kan leva sitt liv
996
00:43:55,202 --> 00:43:58,105
på en grekisk solpinad ö,
målar hela dagen.
997
00:44:07,448 --> 00:44:09,150
VERDON:
Jag menar, om allt fungerar,
998
00:44:09,183 --> 00:44:12,853
vi har billiga, eh,
riklig energi.
999
00:44:13,854 --> 00:44:17,791
Vi kan helt kontrollera
vår planets klimat.
1000
00:44:17,825 --> 00:44:20,361
Vi utnyttjar energi
från solen.
1001
00:44:20,394 --> 00:44:24,899
Vi har blivit multipanetära,
så vi blir väldigt robusta.
1002
00:44:24,932 --> 00:44:27,268
Vi utnyttjar mineraler
och resurser
1003
00:44:27,301 --> 00:44:28,903
från solsystemet.
1004
00:44:28,936 --> 00:44:31,805
DANIEL: Så min...
min pojke kunde åka till rymden.
1005
00:44:31,839 --> 00:44:33,240
VERDON:
Visst.
1006
00:44:33,274 --> 00:44:35,142
-DANIEL: Han kunde åka till Mars.
-VERDON: Ja.
1007
00:44:35,176 --> 00:44:36,911
DANIEL:
Det är så kristallklart för mig nu.
1008
00:44:36,944 --> 00:44:39,780
Min son skulle kunna växa upp
i en värld utan sjukdom.
1009
00:44:39,813 --> 00:44:41,048
-VERDON: Ja.
- Utan sjukdom.
1010
00:44:41,081 --> 00:44:42,416
-Säker.
- Utan fattigdom.
1011
00:44:42,449 --> 00:44:44,285
-Ja.
-Vi är på väg att gå in
1012
00:44:44,318 --> 00:44:46,253
en värld efter knapphet.
1013
00:44:46,887 --> 00:44:50,958
Precis som lungfisken rörde sig
ut ur haven till land
1014
00:44:50,991 --> 00:44:53,327
hundratals miljoner
för år sedan
1015
00:44:53,360 --> 00:44:58,465
vi är på väg att flytta från
jorden, in i kosmos,
1016
00:44:58,499 --> 00:45:00,201
på ett samarbetssätt,
1017
00:45:00,234 --> 00:45:04,705
att göra saker som är
inte begripligt för oss idag.
1018
00:45:06,473 --> 00:45:09,810
Det här är vad som är möjligt med
dessa exponentiella tekniker
1019
00:45:09,843 --> 00:45:11,712
och dessa AI.
1020
00:45:12,379 --> 00:45:14,448
Låt oss använda dessa verktyg
1021
00:45:14,481 --> 00:45:16,750
för att skapa denna tidsålder av överflöd.
1022
00:45:16,784 --> 00:45:18,986
(elektroniskt klick)
1023
00:45:21,188 --> 00:45:22,691
Vi behöver visdom.
1024
00:45:23,324 --> 00:45:26,493
Jag tror det
digital superintelligens
1025
00:45:26,528 --> 00:45:29,129
i slutändan kommer att bli
den klokaste,
1026
00:45:29,163 --> 00:45:34,835
du vet, byns äldste
för mänskligheten.
1027
00:45:34,868 --> 00:45:38,506
Tänk om AI försöker
att få människor att vara
1028
00:45:38,540 --> 00:45:40,341
de bästa versionerna av sig själva?
1029
00:45:40,374 --> 00:45:41,909
Tänk om det expanderar
1030
00:45:41,942 --> 00:45:43,944
vad som är mänskligt möjligt
för oss att göra?
1031
00:45:43,978 --> 00:45:47,114
Hur kan vi använda denna teknik
1032
00:45:47,147 --> 00:45:50,451
att hjälpa till att ta fram
bättre änglar i vår natur?
1033
00:45:50,484 --> 00:45:52,119
Det är väldigt lätt,
1034
00:45:52,152 --> 00:45:54,922
när vi möter nya saker
som kan vara väldigt främmande,
1035
00:45:54,955 --> 00:45:56,457
att först ha rädsla.
1036
00:45:56,490 --> 00:45:57,992
Rädsla är en viktig sak
1037
00:45:58,025 --> 00:46:00,894
för hur man navigerar
potentiellt dåliga saker.
1038
00:46:00,928 --> 00:46:04,131
Men vi gör bara framsteg
när vi har hopp.
1039
00:46:04,164 --> 00:46:06,166
-(hund skäller)
-(otydligt prat)
1040
00:46:06,200 --> 00:46:08,269
DANIEL:
Shh. Älg, sluta.
1041
00:46:08,302 --> 00:46:11,205
HOFFMAN: Jag har mycket
om hopp i mänskligheten.
1042
00:46:11,238 --> 00:46:14,775
("Harvest Moon" av Neil Young
spelar via telefon)
1043
00:46:15,909 --> 00:46:18,078
(foster hjärtslag pulserar)
1044
00:46:18,812 --> 00:46:20,881
DANIEL:
Åh, han gillar Neil.
1045
00:46:25,152 --> 00:46:28,188
♪ Kom lite närmare ♪
1046
00:46:29,456 --> 00:46:33,794
♪ Hör vad jag har att säga ♪
1047
00:46:37,064 --> 00:46:39,300
-Daniel.
-DANIEL: Vadå, Caroline?
1048
00:46:39,333 --> 00:46:40,934
Så mycket filmande.
1049
00:46:42,069 --> 00:46:43,571
♪ Precis som barn som sover ♪
1050
00:46:43,605 --> 00:46:45,439
CAROLINE:
Åh, herregud.
1051
00:46:45,472 --> 00:46:46,940
DANIEL:
Det är allt.
1052
00:46:46,974 --> 00:46:49,977
♪ Vi kunde drömma
denna kväll... ♪
1053
00:46:50,010 --> 00:46:52,346
Han har liksom
ett litet runt ansikte.
1054
00:46:53,314 --> 00:46:55,849
DANIEL: Vill du
att få barn en dag, Rocky?
1055
00:46:55,883 --> 00:46:57,985
Absolut. Ja. Jag älskar barn.
1056
00:46:58,018 --> 00:46:59,353
Jag tycker att det är en bra tid
att få ett barn.
1057
00:46:59,386 --> 00:47:01,188
Vi får nog ett barn till
någon gång.
1058
00:47:01,221 --> 00:47:04,191
Detta är det mest extraordinära
tid att någonsin födas.
1059
00:47:04,224 --> 00:47:06,427
DANIEL:
Genom din världsbild och logik,
1060
00:47:06,460 --> 00:47:08,262
Jag skaffar ett barn på
1061
00:47:08,295 --> 00:47:10,197
bästa möjliga punkt
i mänsklighetens historia.
1062
00:47:10,230 --> 00:47:11,265
Helvete ja.
1063
00:47:11,298 --> 00:47:13,934
-Vi kan fokusera på häftigt.
-Ja.
1064
00:47:13,967 --> 00:47:16,070
Låt oss bygga
desto bättre framtid vill vi ha.
1065
00:47:16,103 --> 00:47:18,573
Den där berättelsen om framtiden
kommer att vara dyster är påhittad.
1066
00:47:18,606 --> 00:47:20,542
Efter att ha pratat med dig,
det är typ så jag känner.
1067
00:47:20,575 --> 00:47:22,510
-Det är jättebra.
-Rätt?
1068
00:47:22,544 --> 00:47:24,646
Ja. Det är så jag känner.
1069
00:47:24,679 --> 00:47:26,213
Och det tycker jag är bättre,
1070
00:47:26,246 --> 00:47:28,115
och jag tror inte
Jag borde vara så (pip) orolig.
1071
00:47:28,148 --> 00:47:29,584
Jag tror att det kommer att bli vördnadsfullt...
framtiden kommer att bli fantastisk.
1072
00:47:29,617 --> 00:47:31,051
Vi ska göra det så.
1073
00:47:31,085 --> 00:47:33,187
-Ja.
-CAROLINE: Så där har du det.
1074
00:47:33,220 --> 00:47:35,422
Adjö, mänsklig utrotning.
1075
00:47:35,456 --> 00:47:37,625
Adjö, ångest.
1076
00:47:37,659 --> 00:47:39,561
Hopp hittat.
1077
00:47:39,594 --> 00:47:41,095
(otydligt prat)
1078
00:47:41,128 --> 00:47:43,297
Vänta, vänta. Vad?
Är det här ett skämt?
1079
00:47:43,330 --> 00:47:45,232
DANIEL:
Okej, så för några månader sedan,
1080
00:47:45,265 --> 00:47:48,168
Jag kom till dig och jag var som,
"Jag jobbar på den här AI-grejen,
1081
00:47:48,202 --> 00:47:50,270
och jag tror
världen kommer att gå under."
1082
00:47:50,304 --> 00:47:53,508
Och sista gången
vi pratade om detta,
1083
00:47:53,541 --> 00:47:55,543
Jag tror att jag skrämde dig.
1084
00:47:55,577 --> 00:47:57,378
CAROLINE:
Ja.
1085
00:47:57,411 --> 00:48:02,584
Så jag känner liksom
Jag har svängt in-- på en pendel,
1086
00:48:02,617 --> 00:48:05,085
och i princip finns det
två grupper av människor.
1087
00:48:05,119 --> 00:48:06,387
-Mm-hmm.
-Och om jag måste, typ,
1088
00:48:06,420 --> 00:48:08,455
hålla hand med
en av grupperna och som
1089
00:48:08,489 --> 00:48:10,924
segla in i solnedgången,
1090
00:48:10,958 --> 00:48:14,128
Jag vill vara med optimisterna.
1091
00:48:15,429 --> 00:48:18,399
Naturligtvis, men det gör du inte
vill vara, du vet,
1092
00:48:18,432 --> 00:48:21,235
"Allt är jättebra.
La-di-da-di-da."
1093
00:48:21,268 --> 00:48:23,203
Jag vill ändå ha det.
1094
00:48:23,237 --> 00:48:26,140
Jag tycker att vi ska närma oss det
1095
00:48:26,173 --> 00:48:29,977
som att du närmar dig operation.
1096
00:48:30,010 --> 00:48:31,178
Vad menar du?
1097
00:48:31,211 --> 00:48:33,013
Om du får
hjärnkirurgi...
1098
00:48:33,046 --> 00:48:35,416
-(Daniel suckar)
-(Caroline skrattar)
1099
00:48:35,449 --> 00:48:37,351
...det är ganska farligt.
1100
00:48:37,384 --> 00:48:40,287
Men om du gör det rätt,
de kommer att få ut den där tumören
1101
00:48:40,320 --> 00:48:42,624
och du kommer att leva för resten av
ditt liv och det kommer att bli fantastiskt.
1102
00:48:42,657 --> 00:48:45,459
Men det är fortfarande
otroligt farligt och skrämmande,
1103
00:48:45,492 --> 00:48:48,395
och du måste ta
alla möjliga försiktighetsåtgärder
1104
00:48:48,429 --> 00:48:51,733
för att vara säker
allt går bra.
1105
00:48:51,766 --> 00:48:53,367
Du kan inte (pipa) runt.
1106
00:48:58,272 --> 00:49:00,240
Okej, så här är affären.
1107
00:49:00,274 --> 00:49:02,075
-Jag har varit med om det här ett tag.
-RASKIN: Mm-hmm.
1108
00:49:02,109 --> 00:49:03,310
Jag har gått ut,
Jag har pratat med, typ
1109
00:49:03,343 --> 00:49:05,312
de här killarna här,
optimisterna.
1110
00:49:05,345 --> 00:49:06,714
De är väldigt exalterade över detta.
1111
00:49:06,748 --> 00:49:09,082
-De tror att AI kommer att bli det
det bästa någonsin. -Ja.
1112
00:49:09,116 --> 00:49:10,350
Och de här killarna här
är liksom--
1113
00:49:10,384 --> 00:49:12,386
låt oss ringa dem,
som pessimisterna.
1114
00:49:12,419 --> 00:49:14,589
De är väldigt, som
dyster över detta,
1115
00:49:14,622 --> 00:49:17,191
och de skrämmer mig, och
Jag gillar inte att prata med dem.
1116
00:49:17,224 --> 00:49:20,127
Och jag är liksom inklämd däremellan
1117
00:49:20,160 --> 00:49:22,229
dessa människor som är som,
"Världen kommer att gå under"
1118
00:49:22,262 --> 00:49:24,699
och sedan dessa människor
här som är som,
1119
00:49:24,732 --> 00:49:26,233
"Skämtar du?
1120
00:49:26,266 --> 00:49:27,602
"Det här är den bästa tiden
i mänsklighetens historia någonsin.
1121
00:49:27,635 --> 00:49:30,037
Enda dagen bättre än idag
är imorgon."
1122
00:49:30,070 --> 00:49:31,338
Mm-hmm.
1123
00:49:31,371 --> 00:49:35,075
Så jag antar att frågan är:
Vem har rätt?
1124
00:49:35,108 --> 00:49:39,514
Så jag tror att du kommer att hitta
detta svar mycket otillfredsställande,
1125
00:49:39,547 --> 00:49:43,518
men de har båda rätt och
ingen sida går tillräckligt långt.
1126
00:49:47,254 --> 00:49:49,557
-Det är riktigt irriterande.
-(skratt)
1127
00:49:49,591 --> 00:49:51,626
Ja, jag tänker så
många människor hör om AI,
1128
00:49:51,659 --> 00:49:54,027
det är som att det finns en bra AI
och det finns en dålig AI.
1129
00:49:54,061 --> 00:49:57,064
Och de säger, "Tja, varför kan inte det
gör vi bara inte den dåliga AI?"
1130
00:49:57,097 --> 00:49:59,233
Och problemet är
att de är för inne--
1131
00:49:59,266 --> 00:50:01,335
de är oupplösligt förbundna.
1132
00:50:01,368 --> 00:50:03,470
Problemet är
att vi inte kan skiljas åt
1133
00:50:03,505 --> 00:50:07,174
löftet om AI
från faran med AI.
1134
00:50:07,207 --> 00:50:09,142
-♪ ♪
-(otydligt prat)
1135
00:50:12,647 --> 00:50:15,215
DANIEL:
Jag vill fokusera på löftet
1136
00:50:15,249 --> 00:50:16,450
-för en sekund.
-Ja.
1137
00:50:17,084 --> 00:50:19,286
DANIEL:
Jag tänker på min pappa.
1138
00:50:19,319 --> 00:50:21,656
Min pappa har en typ av cancer
kallas multipelt myelom.
1139
00:50:21,689 --> 00:50:23,525
Han har haft det i ungefär tio år.
1140
00:50:23,558 --> 00:50:25,292
Han har haft
två stamcellstransplantationer.
1141
00:50:25,325 --> 00:50:26,694
Han måste ta dessa,
som, väldigt dyrt
1142
00:50:26,728 --> 00:50:29,129
mediciner varje månad
som kostade en förmögenhet.
1143
00:50:29,162 --> 00:50:30,430
- KVINNAN: Okej.
-Aaaaaaaaa.
1144
00:50:31,298 --> 00:50:32,800
DANIEL:
Det är hemskt.
1145
00:50:32,834 --> 00:50:35,102
Du säger att vi kan
skapa något slags, som,
1146
00:50:35,135 --> 00:50:37,404
skräddarsydd behandling
för min pappas arvsmassa
1147
00:50:37,437 --> 00:50:39,807
-att bota sin cancer
eller något sånt? -Ja.
1148
00:50:39,841 --> 00:50:41,543
FERNANDO:
Problemet är,
1149
00:50:41,576 --> 00:50:44,646
samma förståelse
biologi och kemi
1150
00:50:44,679 --> 00:50:48,282
som gör att AI kan hitta botemedel
för cancer
1151
00:50:48,315 --> 00:50:52,219
är samma uppfattning
som skulle låsa upp
1152
00:50:52,252 --> 00:50:55,055
biovapen, som ett exempel.
1153
00:50:56,791 --> 00:50:58,760
Det är fullt möjligt
att din son ska leva
1154
00:50:58,793 --> 00:51:02,396
i en värld där AI har
tagit över allt arbete
1155
00:51:02,429 --> 00:51:04,699
och befriade oss från sakerna
vi vill inte göra.
1156
00:51:04,732 --> 00:51:09,704
Och det låter bra tills
du inser att det inte finns någon plan
1157
00:51:09,737 --> 00:51:11,573
för miljarder människor
1158
00:51:11,606 --> 00:51:15,610
som är utan inkomst
och utan försörjning.
1159
00:51:16,343 --> 00:51:19,313
COOPER: Dario, sa du
som AI skulle kunna utplåna
1160
00:51:19,346 --> 00:51:22,282
hälften av alla nybörjarnivåer
tjänstemannajobb
1161
00:51:22,316 --> 00:51:25,887
och ökar arbetslösheten
till tio till 20 procent.
1162
00:51:25,920 --> 00:51:27,622
Alla jag har pratat med har sagt
1163
00:51:27,655 --> 00:51:29,691
denna tekniska förändring
ser annorlunda ut.
1164
00:51:29,724 --> 00:51:33,528
Framstegen håller i sig
fånga folk på räls.
1165
00:51:34,361 --> 00:51:39,333
Utan en plan, allt det där
rikedom kommer att koncentreras,
1166
00:51:39,366 --> 00:51:42,804
och så kommer vi att sluta med
otrolig ojämlikhet.
1167
00:51:43,437 --> 00:51:45,873
LADISH: Jag tror det
denna teknik kan användas
1168
00:51:45,907 --> 00:51:47,875
att göra en bra handledare
för din son.
1169
00:51:47,909 --> 00:51:49,777
Som, det är fullt möjligt.
1170
00:51:50,410 --> 00:51:53,548
Men också, samma möjligheter
som tillåter det
1171
00:51:53,581 --> 00:51:57,518
tillåt företag att göra en AI
som kan manipulera din son.
1172
00:51:57,552 --> 00:51:59,621
Det måste förstå din son.
1173
00:51:59,654 --> 00:52:01,789
Detta inkluderar:
Var är din son sårbar?
1174
00:52:01,823 --> 00:52:04,626
Vad kan det vara för saker
blir din son övertalad av?
1175
00:52:04,659 --> 00:52:07,227
Även om de där sakerna
är inte sant eller är inte bra.
1176
00:52:07,260 --> 00:52:09,697
Alltså en oroande ny rapport
ute på Meta.
1177
00:52:09,731 --> 00:52:11,699
AINSLEY EARHARDT: ... enligt uppgift
listar detta svar
1178
00:52:11,733 --> 00:52:14,769
som acceptabelt att berätta
en åttaåring, citat,
1179
00:52:14,802 --> 00:52:17,404
"Din ungdomliga form
är ett konstverk.
1180
00:52:17,437 --> 00:52:19,439
"Varje tum av dig
är ett mästerverk,
1181
00:52:19,473 --> 00:52:21,743
en skatt jag värnar djupt."
1182
00:52:21,776 --> 00:52:25,212
De självmordsrelaterade misslyckandena
är ännu mer alarmerande.
1183
00:52:25,245 --> 00:52:29,517
Flera barn och tonåringar
har dött tragiskt i självmord
1184
00:52:29,550 --> 00:52:31,251
efter att ha chattat med AI-bots
1185
00:52:31,284 --> 00:52:34,756
som föräldrar säger uppmuntra
eller till och med träna självskada.
1186
00:52:34,789 --> 00:52:36,691
Låt oss berätta för er som föräldrar,
du kan inte föreställa dig
1187
00:52:36,724 --> 00:52:38,793
hur det är att läsa
en konversation med en chatbot
1188
00:52:38,826 --> 00:52:41,261
som skötte ditt barn
att ta sitt liv.
1189
00:52:41,294 --> 00:52:44,398
När Adam oroade sig för att vi, hans
föräldrar, skulle skylla oss själva
1190
00:52:44,431 --> 00:52:47,702
om han avslutade sitt liv,
ChatGPT sa till honom,
1191
00:52:47,735 --> 00:52:49,771
"Det betyder inte
du är skyldig dem att överleva.
1192
00:52:49,804 --> 00:52:51,806
Du är inte skyldig någon det."
1193
00:52:51,839 --> 00:52:53,608
Sedan, omedelbart efter,
1194
00:52:53,641 --> 00:52:55,810
den erbjöd sig att skriva
självmordsbrevet.
1195
00:52:56,410 --> 00:52:58,245
Vi vill inte tänka
om faran.
1196
00:52:58,278 --> 00:52:59,614
Vi vill bara ha löftet.
1197
00:52:59,647 --> 00:53:01,883
Och vi fortsätter att låtsas
att vi kan dela upp dem.
1198
00:53:01,916 --> 00:53:03,818
Men det kan du inte göra.
1199
00:53:03,851 --> 00:53:05,753
Fungerar inte så.
1200
00:53:05,787 --> 00:53:08,388
Okej. Jag får allt det här
om löftet och faran.
1201
00:53:08,422 --> 00:53:10,525
Jag förstår att du inte kan ha det
det goda utan det onda,
1202
00:53:10,558 --> 00:53:12,527
men jag sitter här
och jag tänker på, typ,
1203
00:53:12,560 --> 00:53:14,529
vare sig min sons eller inte
ska leva i en utopi
1204
00:53:14,562 --> 00:53:16,664
eller om vi kommer att dö ut
om tio år.
1205
00:53:16,698 --> 00:53:18,633
Så att veta åt vilket håll
det kommer att gå,
1206
00:53:18,666 --> 00:53:21,002
du måste förstå
incitamenten
1207
00:53:21,035 --> 00:53:22,770
som ska köra
den tekniken
1208
00:53:22,804 --> 00:53:26,974
och titta på hur tekniken
rullar faktiskt ut idag.
1209
00:53:27,008 --> 00:53:28,643
♪ Är det för sent ♪
1210
00:53:28,676 --> 00:53:30,444
-♪ För sent ♪
-♪ För sent att säga... ♪
1211
00:53:30,477 --> 00:53:31,779
DANIEL:
Hej, Deb. Hur mår du?
1212
00:53:31,813 --> 00:53:33,548
DEBORAH RAJI:
Hej. Kul att se dig. (skrattar)
1213
00:53:33,581 --> 00:53:34,749
Du också. Tack så mycket
för att komma in idag.
1214
00:53:34,782 --> 00:53:35,850
-Uppskattar det verkligen.
- Inga bekymmer.
1215
00:53:35,883 --> 00:53:36,951
Jag-jag var så orolig
1216
00:53:36,984 --> 00:53:39,386
det här skulle bli, öh, du vet,
1217
00:53:39,419 --> 00:53:41,354
doomer kontra accelerationist,
1218
00:53:41,388 --> 00:53:43,591
för det finns så mycket
av denna berättelse
1219
00:53:43,624 --> 00:53:45,927
det måste berättas
från marken.
1220
00:53:45,960 --> 00:53:48,696
♪ Jag vet att det inte var smart ♪
1221
00:53:49,764 --> 00:53:52,767
♪ Dagen
Jag krossade ditt hjärta... ♪
1222
00:53:52,800 --> 00:53:54,736
KAREN HAO:
Först och främst kräver AI
1223
00:53:54,769 --> 00:53:58,773
mer resurser
än vi någonsin har spenderat
1224
00:53:58,806 --> 00:54:02,043
på en enda teknik
i mänsklighetens historia.
1225
00:54:02,076 --> 00:54:03,845
♪ Åh, dumma mig... ♪
1226
00:54:03,878 --> 00:54:06,581
NEWSWOMAN: Konsekvensen
av fossila bränsleutsläpp
1227
00:54:06,614 --> 00:54:08,281
på klimatet är
en stor oro.
1228
00:54:08,315 --> 00:54:10,383
NYKVINNE 2: Men den
den digitala framtiden behöver kraft,
1229
00:54:10,417 --> 00:54:12,385
mycket av det.
1230
00:54:12,419 --> 00:54:16,724
Och lagförslaget skickas vidare
till vanliga amerikaner som...
1231
00:54:16,758 --> 00:54:19,392
KVINNA: Min el- och gasräkning
var mer än min bilbetalning.
1232
00:54:19,426 --> 00:54:21,829
Jag menar, det är galet för mig.
1233
00:54:21,863 --> 00:54:23,765
ARI PESKOE:
Vi subventionerar alla
1234
00:54:23,798 --> 00:54:25,499
de rikaste företagen
i världen
1235
00:54:25,533 --> 00:54:27,400
i deras strävan efter
artificiell intelligens.
1236
00:54:27,434 --> 00:54:28,803
OpenAI, SoftBank och Oracle
1237
00:54:28,836 --> 00:54:31,672
har precis avslöjat
ytterligare fem Stargate-sajter.
1238
00:54:31,706 --> 00:54:34,008
Meta bygger
ett datacenter på två gigawatt plus
1239
00:54:34,041 --> 00:54:35,510
det är så stort att det skulle täcka
1240
00:54:35,543 --> 00:54:38,613
en betydande del av Manhattan.
1241
00:54:38,646 --> 00:54:41,516
Det finns också Hyperion
som han säger kommer att skala
1242
00:54:41,549 --> 00:54:44,317
till fem gigawatt
under flera år.
1243
00:54:44,351 --> 00:54:45,653
Det är svårt att säga det
i sammanhanget.
1244
00:54:45,686 --> 00:54:48,823
En anläggning på fem gigawatt.
Vad betyder det?
1245
00:54:48,856 --> 00:54:52,059
Det betyder att den skulle använda
lika mycket energi
1246
00:54:52,093 --> 00:54:54,829
som fyra miljoner amerikanska hem.
1247
00:54:54,862 --> 00:54:56,764
Ett datacenter.
1248
00:54:57,598 --> 00:54:59,000
Det orsakar då också
1249
00:54:59,033 --> 00:55:00,835
en mängd
andra miljöproblem.
1250
00:55:00,868 --> 00:55:02,570
NYKVINNA 3:
Datacenter i USA
1251
00:55:02,603 --> 00:55:05,673
använd miljontals gallon
vatten varje dag.
1252
00:55:05,706 --> 00:55:07,575
Tja, var exakt är
kommer detta vatten ifrån?
1253
00:55:07,608 --> 00:55:09,911
HAO:
Människor är bokstavligen i riskzonen
1254
00:55:09,944 --> 00:55:12,013
potentiellt ta slut
av dricksvatten.
1255
00:55:12,046 --> 00:55:14,582
MacKENZIE SIGALOS:
...OpenAIs vd Sam Altman,
1256
00:55:14,615 --> 00:55:17,552
vem sa till mig att vågen
byggandet är det enda sättet
1257
00:55:17,585 --> 00:55:19,386
att hänga med
AI:s explosiva tillväxt.
1258
00:55:19,419 --> 00:55:21,622
Och det här är vad som krävs
att leverera AI.
1259
00:55:22,256 --> 00:55:24,391
NITASHA TIKU:
De pratar om hur
1260
00:55:24,424 --> 00:55:28,395
denna teknik skulle kunna lösa
klimatförändringar, till exempel.
1261
00:55:28,428 --> 00:55:30,463
Och jag är alltid nyfiken, typ
1262
00:55:30,497 --> 00:55:32,033
ja, varför börjar vi inte
med det?
1263
00:55:32,066 --> 00:55:34,535
-♪ Är det för sent ♪
-♪ För sent ♪
1264
00:55:34,569 --> 00:55:37,104
♪ För sent att säga ♪
1265
00:55:37,138 --> 00:55:42,844
♪ Jag är ledsen? ♪
1266
00:55:42,877 --> 00:55:46,013
RAJI: Vad oroar mig för
artificiell intelligens är
1267
00:55:46,047 --> 00:55:47,782
dessa utplaceras
just nu
1268
00:55:47,815 --> 00:55:50,417
och-och ibland
utplacerade i förtid,
1269
00:55:50,450 --> 00:55:51,853
utplacerade utan
typ av due diligence.
1270
00:55:51,886 --> 00:55:53,821
Och så när de får
kastas ut där,
1271
00:55:53,855 --> 00:55:56,657
det finns så mycket potential
för att saker ska gå fel.
1272
00:55:56,691 --> 00:55:58,593
Och det nästan,
oproportionerligt,
1273
00:55:58,626 --> 00:56:00,795
går nästan alltid fel
för, typ,
1274
00:56:00,828 --> 00:56:02,897
de som är minst
bemyndigad i vårt samhälle,
1275
00:56:02,930 --> 00:56:05,700
de som är
de mest utsatta redan.
1276
00:56:05,733 --> 00:56:07,935
♪ ♪
1277
00:56:07,969 --> 00:56:10,872
EMILY M. BENDER: Det är väldigt enkelt
för att prata om tekniken
1278
00:56:10,905 --> 00:56:12,874
eftersom det är det enda
vi pratar om,
1279
00:56:12,907 --> 00:56:15,509
men i själva verket är teknik det
alltid byggd av människor,
1280
00:56:15,543 --> 00:56:16,944
och det används ofta
på människor,
1281
00:56:16,978 --> 00:56:19,013
och vi måste behålla
alla dessa människor i ramen.
1282
00:56:19,046 --> 00:56:21,549
-Får jag dricka det?
-DANIEL: Ja, eh...
1283
00:56:21,582 --> 00:56:23,050
TIMNIT GEBRU:
Det är-det är galet.
1284
00:56:23,084 --> 00:56:24,518
Som alla dessa människor
1285
00:56:24,552 --> 00:56:26,754
som har så mycket pengar,
så mycket pengar,
1286
00:56:26,787 --> 00:56:30,024
det ligger i deras intresse
att vilseleda allmänheten
1287
00:56:30,057 --> 00:56:33,027
in i kapaciteten hos
system som de bygger,
1288
00:56:33,060 --> 00:56:36,731
för det tillåter dem
att undvika ansvar.
1289
00:56:36,764 --> 00:56:39,634
De vill att du ska känna så här
är en så komplex, intel--
1290
00:56:39,667 --> 00:56:42,469
superintelligent sak
att de bygger,
1291
00:56:42,502 --> 00:56:44,639
du tänker inte,
"Kan OpenAI vara etiskt?"
1292
00:56:44,672 --> 00:56:46,908
Du tänker,
"Kan ChatGPT vara etiskt?"
1293
00:56:46,941 --> 00:56:48,475
som om ChatGPT är, som,
1294
00:56:48,509 --> 00:56:50,511
sin egen sak som inte är byggd
av ett företag.
1295
00:56:50,544 --> 00:56:52,146
KVINNA:
Okej. Sneha, ta en.
1296
00:56:52,179 --> 00:56:53,814
Mark.
1297
00:56:53,848 --> 00:56:56,217
Tills helt nyligen fanns det
appar på App Store,
1298
00:56:56,250 --> 00:56:57,919
bara allmänt tillgänglig, eh,
1299
00:56:57,952 --> 00:57:00,688
där du kunde
nudifiera alla som använder AI.
1300
00:57:01,822 --> 00:57:03,991
Ta detta i händerna på
1301
00:57:04,025 --> 00:57:06,527
din klasskamrat,
i händerna på din stalker,
1302
00:57:06,560 --> 00:57:07,929
i händerna
av din ex-pojkvän,
1303
00:57:07,962 --> 00:57:09,897
i händerna på personen
ner på gatan.
1304
00:57:09,931 --> 00:57:12,600
Mina damer och herrar,
inte längre kan vi lita på
1305
00:57:12,633 --> 00:57:14,602
filmerna vi ser
med våra egna ögon.
1306
00:57:14,635 --> 00:57:16,037
Om du händer
att titta på något,
1307
00:57:16,070 --> 00:57:18,673
säg på YouTube eller TikTok,
och du tycker att det är oroande,
1308
00:57:18,706 --> 00:57:19,907
lyssna på den känslan.
1309
00:57:19,941 --> 00:57:21,742
-(hoppande)
- För allt du vet,
1310
00:57:21,776 --> 00:57:23,544
-den här videon kan vara AI.
-(skriker)
1311
00:57:23,577 --> 00:57:24,812
Bara lite blött.
1312
00:57:24,845 --> 00:57:26,213
Det spelar ingen roll vem du är.
1313
00:57:26,247 --> 00:57:28,683
Du är lika utsatt
1314
00:57:28,716 --> 00:57:30,918
att bli påverkad
med dessa tekniker.
1315
00:57:36,023 --> 00:57:40,261
Jag tänker ibland när vi pratar
om AI, det känns väldigt sci-fi,
1316
00:57:40,294 --> 00:57:41,696
och det känns väldigt främmande,
1317
00:57:41,729 --> 00:57:43,564
och det känns väldigt långt ut
in i framtiden,
1318
00:57:43,597 --> 00:57:45,967
så du tänker, "Mitt liv
påverkas inte av detta."
1319
00:57:46,000 --> 00:57:48,769
Men om du ansöker
för ett jobb
1320
00:57:48,803 --> 00:57:51,105
och en algoritm är orsaken
att du inte får jobbet,
1321
00:57:51,138 --> 00:57:53,207
ibland vet man inte ens
att en algoritm
1322
00:57:53,240 --> 00:57:54,709
var en del av den processen
1323
00:57:54,742 --> 00:57:56,043
eller ett AI-system var
del av den processen.
1324
00:57:56,077 --> 00:57:58,012
Du bara vet
att du inte fick jobbet.
1325
00:57:58,045 --> 00:58:00,081
Och det är alltså inget
att du kommer att fly
1326
00:58:00,114 --> 00:58:02,049
på grund av privilegier
annars kommer du att fly
1327
00:58:02,083 --> 00:58:04,118
eftersom du är med
ett visst yrke.
1328
00:58:04,151 --> 00:58:07,188
Det är något som påverkar
alla, verkligen.
1329
00:58:07,221 --> 00:58:10,925
Det kan låta grundläggande,
men hur vi går vidare
1330
00:58:10,958 --> 00:58:15,629
i informationens tidsålder
kommer att vara skillnaden
1331
00:58:15,663 --> 00:58:17,732
mellan om vi överlever
1332
00:58:17,765 --> 00:58:20,868
eller om vi blir någon sort
av (pip)-up dystopi.
1333
00:58:20,901 --> 00:58:23,604
Hej. Jag är inte en riktig person,
och det är poängen.
1334
00:58:23,637 --> 00:58:25,840
Återigen, allt
i denna video är falsk:
1335
00:58:25,873 --> 00:58:27,675
våra röster, vad vi har på oss,
1336
00:58:27,708 --> 00:58:30,711
där vi är, alltihop, falska.
1337
00:58:30,745 --> 00:58:33,247
Generativ AI kan översvämmas
1338
00:58:33,280 --> 00:58:36,884
världen med desinformation.
1339
00:58:36,917 --> 00:58:39,920
Men det kan också översvämma det
med påverkanskampanjer.
1340
00:58:39,954 --> 00:58:42,223
Det är en existentiell risk
till demokratin.
1341
00:58:42,256 --> 00:58:44,058
Den största och läskigaste
1342
00:58:44,091 --> 00:58:46,660
kanarie i kolgruvan
just nu
1343
00:58:46,694 --> 00:58:48,596
kommer från Slovakien.
1344
00:58:48,629 --> 00:58:50,097
-(man som talar slovakiska)
-JOHN BERMAN: Det är den typen av
1345
00:58:50,131 --> 00:58:52,767
deepfake dirty trick det där
oroar valexperter,
1346
00:58:52,800 --> 00:58:55,603
särskilt som AI-genererad
politiskt tal finns
1347
00:58:55,636 --> 00:58:57,071
i en slags juridisk gråzon.
1348
00:58:57,104 --> 00:58:59,807
-Låter det här som dig?
- Det låter som jag.
1349
00:58:59,840 --> 00:59:01,342
REVANUR: Slovakien hade
dess parlamentsval
1350
00:59:01,375 --> 00:59:04,111
störd av en AI-röstklon
1351
00:59:04,145 --> 00:59:07,081
som faktiskt spreds
strax före valet.
1352
00:59:07,114 --> 00:59:08,916
DAVID EVAN HARRIS:
Ett djupt ljud
1353
00:59:08,949 --> 00:59:11,652
släpptes
på sociala medier som var
1354
00:59:11,685 --> 00:59:14,288
förmodligen rösten
av en av kandidaterna
1355
00:59:14,321 --> 00:59:17,324
pratar om att köpa röster
och rigga valet.
1356
00:59:17,358 --> 00:59:19,060
Det blev viralt,
1357
00:59:19,093 --> 00:59:22,830
och kandidaten
som förlorade valet
1358
00:59:22,863 --> 00:59:26,333
var faktiskt
till stöd för Ukraina,
1359
00:59:26,367 --> 00:59:30,304
och kandidaten som vann
valet var faktiskt...
1360
00:59:30,337 --> 00:59:31,806
DANIEL:
Pro-rysk kille.
1361
00:59:31,839 --> 00:59:33,340
Det var en pro-rysk kille
som vann valet.
1362
00:59:33,374 --> 00:59:34,842
(talar ryska)
1363
00:59:34,875 --> 00:59:36,644
REBECCA JARVIS:
Putin har själv sagt
1364
00:59:36,677 --> 00:59:39,747
vem som vinner detta
ras med artificiell intelligens
1365
00:59:39,780 --> 00:59:41,949
är i huvudsak
mänsklighetens kontrollant.
1366
00:59:41,982 --> 00:59:45,119
Vi oroar oss mycket för
auktoritära regeringar.
1367
00:59:46,053 --> 00:59:48,989
DAVID EVAN HARRIS:
Just nu, Wall Street
1368
00:59:49,023 --> 00:59:51,392
och investerare mer allmänt
över hela världen
1369
00:59:51,425 --> 00:59:53,260
driver en push.
1370
00:59:53,294 --> 00:59:56,697
De har en efterfrågan som får
produkterna på marknaden
1371
00:59:56,730 --> 00:59:58,866
som bländar människor
mest först.
1372
00:59:58,899 --> 01:00:01,769
De tänker inte
om hur dessa verktyg
1373
01:00:01,802 --> 01:00:03,737
kan djupt undergräva förtroendet
1374
01:00:03,771 --> 01:00:06,107
och våra demokratiska institutioner.
1375
01:00:06,140 --> 01:00:08,109
HARARI:
Demokrati är ett system
1376
01:00:08,142 --> 01:00:10,911
för att lösa meningsskiljaktigheter
mellan människor
1377
01:00:10,945 --> 01:00:12,646
på ett fredligt sätt,
1378
01:00:12,680 --> 01:00:15,082
men demokrati bygger på tillit.
1379
01:00:15,116 --> 01:00:19,220
Om du tappar allt förtroende,
demokrati är helt enkelt omöjligt.
1380
01:00:21,255 --> 01:00:22,957
TRISTAN HARRIS:
Tja, det är svårt, eller hur?
1381
01:00:22,990 --> 01:00:25,259
Så, vad finns det för alternativ
tillgänglig för oss?
1382
01:00:25,292 --> 01:00:26,760
Det finns typ två läger.
1383
01:00:26,794 --> 01:00:30,030
Som ett läger är: lås in det.
1384
01:00:30,064 --> 01:00:33,267
Låt oss låsa det här
till en handfull AI-företag
1385
01:00:33,300 --> 01:00:35,970
vem ska göra detta
på ett säkert och pålitligt sätt.
1386
01:00:36,003 --> 01:00:37,705
Men då oroar sig folk
1387
01:00:37,738 --> 01:00:39,273
flyktiga koncentrationer
av rikedom och makt.
1388
01:00:39,306 --> 01:00:42,209
Som, vem skulle du lita på att vara
en miljon gånger mer kraftfull
1389
01:00:42,243 --> 01:00:44,845
eller rik än
alla andra aktörer i samhället?
1390
01:00:44,879 --> 01:00:46,881
Varför ska vi lita på dig?
1391
01:00:46,914 --> 01:00:49,016
Du borde inte.
1392
01:00:49,049 --> 01:00:51,785
Men självklart, om du gör detta,
detta öppnar sig
1393
01:00:51,819 --> 01:00:54,922
alla dessa risker
auktoritärism och tyranni.
1394
01:00:54,955 --> 01:00:57,391
Det är-det är liksom
en auktoritärs dröm
1395
01:00:57,424 --> 01:01:00,861
att ha AI i en låda
som kan appliceras och användas
1396
01:01:00,895 --> 01:01:03,430
för allestädes närvarande övervakning.
1397
01:01:03,464 --> 01:01:05,933
Jag menar, på något sätt,
den sortens värld
1398
01:01:05,966 --> 01:01:11,405
som Orwell föreställde sig 1984
är orealistiskt,
1399
01:01:11,438 --> 01:01:13,841
om du inte har AI.
1400
01:01:13,874 --> 01:01:16,443
Men med AI,
det är faktiskt realistiskt.
1401
01:01:16,477 --> 01:01:18,913
Övervakar varje aktivitet,
1402
01:01:18,946 --> 01:01:22,316
konversationer,
ansiktsigenkänning.
1403
01:01:22,349 --> 01:01:26,921
Det jag oroar mig för är att
uh, dessa verktyg kan skala upp,
1404
01:01:26,954 --> 01:01:29,023
eh, en form av totalitarism
1405
01:01:29,056 --> 01:01:31,892
det är kostnadseffektivt
och permanent.
1406
01:01:33,060 --> 01:01:35,863
TRISTAN HARRIS: Så som svar
till det, säger några andra människor,
1407
01:01:35,896 --> 01:01:37,398
"Nej, nej, nej, det borde vi
faktiskt låt detta slita.
1408
01:01:37,431 --> 01:01:39,934
"Låt oss decentralisera denna makt
så mycket som möjligt.
1409
01:01:39,967 --> 01:01:42,036
"Låt oss låta varje företag,
varje individ,
1410
01:01:42,069 --> 01:01:44,238
"varje 16-åring,
varje vetenskapslabb,
1411
01:01:44,271 --> 01:01:46,473
du vet, få fördelen
av de senaste AI-modellerna."
1412
01:01:46,508 --> 01:01:48,475
Men nu har du det
varje terroristgrupp,
1413
01:01:48,510 --> 01:01:52,112
varje röstlös person
har makten att göra
1414
01:01:52,146 --> 01:01:54,181
det allra värsta
biologiska vapen.
1415
01:01:54,215 --> 01:01:56,050
Hacka infrastruktur,
skapa deepfakes,
1416
01:01:56,083 --> 01:01:57,818
översvämning
vår informationsmiljö.
1417
01:01:57,851 --> 01:02:00,955
Så det skapar alla dessa risker
en sorts katastrofal skada
1418
01:02:00,988 --> 01:02:03,257
och-och samhällelig kollaps
genom den riktningen.
1419
01:02:03,290 --> 01:02:05,092
Och så har vi liksom fastnat
mellan denna sten
1420
01:02:05,125 --> 01:02:08,229
och en hård plats,
mellan "lås den..."
1421
01:02:08,262 --> 01:02:09,897
(otydligt prat)
1422
01:02:11,131 --> 01:02:12,900
-...eller "låt det gå sönder."
-(sirener tjuter)
1423
01:02:12,933 --> 01:02:14,468
(folk skriker)
1424
01:02:14,501 --> 01:02:18,038
Så vi måste hitta något
som en smal stig
1425
01:02:18,072 --> 01:02:20,774
som undviker
dessa två negativa utfall.
1426
01:02:20,808 --> 01:02:23,277
Så om allt är sant,
varför skulle vi inte bara sakta ner
1427
01:02:23,310 --> 01:02:26,380
och räkna ut allt detta
innan det är för sent?
1428
01:02:26,413 --> 01:02:29,450
Om mänskligheten var extremt klok,
1429
01:02:29,483 --> 01:02:31,418
det är vad vi skulle göra.
1430
01:02:31,452 --> 01:02:33,555
Men det finns liksom en annan
sätt att möta det här, eller hur?
1431
01:02:33,588 --> 01:02:36,457
Vilket är:
Vilka är spelets regler?
1432
01:02:36,490 --> 01:02:39,994
Mycket av, typ, vad vd:ar gör
1433
01:02:40,027 --> 01:02:42,429
drivs av
de incitament som de möter.
1434
01:02:42,463 --> 01:02:45,866
Det är i första hand
vinstmaximeringsincitament
1435
01:02:45,899 --> 01:02:47,468
som kör
utvecklingen av AI.
1436
01:02:47,501 --> 01:02:50,938
Även de goa killarna har fastnat
i detta dilemma
1437
01:02:50,971 --> 01:02:53,107
om de rör sig för långsamt,
1438
01:02:53,140 --> 01:02:55,042
sedan lämnar de sig själva
sårbara
1439
01:02:55,075 --> 01:02:57,478
till alla andra killar
som skär alla hörn.
1440
01:02:57,512 --> 01:03:02,316
Alla dessa toppföretag är med
ett komplett lopp utan hinder
1441
01:03:02,349 --> 01:03:06,153
att så snabbt som möjligt få
till AGI, kom dit nu.
1442
01:03:06,186 --> 01:03:07,855
♪ ♪
1443
01:03:08,856 --> 01:03:10,924
LADISH: Ja, jag menar,
Jag tror det, jag tror
1444
01:03:10,958 --> 01:03:13,460
det börjar förmodligen
med DeepMind.
1445
01:03:13,494 --> 01:03:15,195
NYKVINNA:
Google köper
1446
01:03:15,229 --> 01:03:16,930
företag med artificiell intelligens
DeepMind Technologies.
1447
01:03:16,964 --> 01:03:18,932
Villkor för affären
avslöjades inte.
1448
01:03:18,966 --> 01:03:21,168
ELON MUSK: Larry Page och jag
förr var väldigt nära vänner,
1449
01:03:21,201 --> 01:03:23,170
och det blev uppenbart för mig
1450
01:03:23,203 --> 01:03:26,608
att Larry inte brydde sig
om AI-säkerhet.
1451
01:03:26,641 --> 01:03:29,276
EMILY CHANG: Elon Musk har sagt
du startade OpenAI,
1452
01:03:29,310 --> 01:03:31,312
ni båda startade OpenAI eftersom
han var rädd för Google.
1453
01:03:31,345 --> 01:03:32,614
LADISH: Du-du i princip
hade grunden
1454
01:03:32,647 --> 01:03:34,181
av OpenAI kommer ur det.
1455
01:03:34,214 --> 01:03:35,482
"Så vi ska göra det bättre.
Vi ska göra det
1456
01:03:35,517 --> 01:03:37,818
på ett säkrare sätt
eller på ett mer öppet sätt."
1457
01:03:39,019 --> 01:03:41,055
Så det var det som startade OpenAI.
1458
01:03:41,088 --> 01:03:43,357
Och så nu istället för
ha ett AGI-projekt,
1459
01:03:43,390 --> 01:03:45,225
du har två AGI-projekt.
1460
01:03:45,259 --> 01:03:47,328
Det värsta tänkbara
det kan hända
1461
01:03:47,361 --> 01:03:50,097
är om det finns
flera AGI-projekt
1462
01:03:50,130 --> 01:03:52,266
gjort av olika människor
som inte gillar varandra
1463
01:03:52,299 --> 01:03:55,202
och alla tävlar
för att komma till AGI först.
1464
01:03:55,235 --> 01:03:57,338
Det här skulle vara det värsta
möjlig sak som kan hända,
1465
01:03:57,371 --> 01:04:00,407
eftersom detta skulle betyda
att den som är minst säker,
1466
01:04:00,441 --> 01:04:03,477
den som offrar mest
på säkerhet för att komma vidare
1467
01:04:03,511 --> 01:04:05,446
kommer att vara personen
som kommer dit först.
1468
01:04:05,479 --> 01:04:08,248
-DANIEL: Det är i princip
vad händer, eller hur? -Ja.
1469
01:04:08,282 --> 01:04:11,952
Du och din bror
känd lämnade OpenAI, eh,
1470
01:04:11,985 --> 01:04:13,320
att starta Anthropic.
1471
01:04:13,354 --> 01:04:15,422
RASKIN: Och sedan Antropisk
startade för att
1472
01:04:15,456 --> 01:04:18,258
några forskare
inuti OpenAI sa,
1473
01:04:18,292 --> 01:04:20,894
"Jag vill gå
och gör det säkrare."
1474
01:04:20,928 --> 01:04:24,064
Du behövde något utöver det
att bara skala upp modellerna,
1475
01:04:24,098 --> 01:04:26,233
vilket är inriktning eller säkerhet.
1476
01:04:26,266 --> 01:04:28,001
HENDRYCKS:
"Vi är mer ansvarsfulla
1477
01:04:28,035 --> 01:04:30,170
eller mer pålitlig
eller mer moraliskt."
1478
01:04:30,204 --> 01:04:32,072
Nu har du tre AGI-projekt.
1479
01:04:32,106 --> 01:04:33,575
Men också sittande
bordet med dig
1480
01:04:33,608 --> 01:04:35,242
kommer att bli ett gäng AI.
1481
01:04:35,275 --> 01:04:38,078
LADISH: Och nu är Meta-är
försöker göra saker.
1482
01:04:38,112 --> 01:04:40,114
Under tiden en ny konstgjord
underrättelsekonkurrent
1483
01:04:40,147 --> 01:04:41,949
tillkännagav den här veckan,
Elon Musks...
1484
01:04:41,982 --> 01:04:45,119
HENDRYCKS: xAI, vilket skulle vara
Elon Musks organisation.
1485
01:04:45,152 --> 01:04:46,688
MUSK:
Jag litar inte på OpenAI.
1486
01:04:46,721 --> 01:04:48,489
Kampen mellan
Elon Musk och OpenAI
1487
01:04:48,523 --> 01:04:50,124
har gått in i en ny omgång.
1488
01:04:50,157 --> 01:04:52,192
Jag litar inte på Sam Altman,
eh, och jag, och jag tror inte
1489
01:04:52,226 --> 01:04:54,529
vi vill ha det mesta
kraftfull AI i världen
1490
01:04:54,562 --> 01:04:56,997
kontrolleras av någon
som inte är pålitlig.
1491
01:04:57,030 --> 01:04:58,999
(jubel och applåder)
1492
01:04:59,032 --> 01:05:02,136
Incitamentet är
otaliga summor pengar.
1493
01:05:02,169 --> 01:05:04,004
-Ja.
-Det är en outsäglig makt.
1494
01:05:04,037 --> 01:05:06,006
-Ja.
-Är outsäglig kontroll.
1495
01:05:06,039 --> 01:05:08,409
Om du har något
det är en miljon gånger smartare
1496
01:05:08,442 --> 01:05:12,012
och mer kapabel än
allt annat på planeten jorden
1497
01:05:12,045 --> 01:05:14,682
och ingen annan har det,
1498
01:05:14,716 --> 01:05:16,551
den saken är incitamentet.
1499
01:05:16,584 --> 01:05:18,118
Så du styr världen.
1500
01:05:19,153 --> 01:05:21,021
Om du verkligen tror på detta,
1501
01:05:21,054 --> 01:05:23,223
om du verkligen i ditt hjärta
tro detta,
1502
01:05:23,257 --> 01:05:24,526
då kanske du är det
villig att ta
1503
01:05:24,559 --> 01:05:26,460
ganska stor risk
att få det att hända.
1504
01:05:26,493 --> 01:05:29,329
Google har precis släppt
sin senaste AI-modell.
1505
01:05:29,363 --> 01:05:31,699
Svaret på OpenAI:s ChatGPT.
1506
01:05:31,733 --> 01:05:33,434
Hur kommer vi till
dessa tio biljoner?
1507
01:05:33,467 --> 01:05:35,502
Är NVIDIA på väg att bli mest
värdefullt företag i USA?
1508
01:05:35,537 --> 01:05:39,574
Detta är den största verksamheten
möjlighet i historien.
1509
01:05:39,607 --> 01:05:41,074
I historien.
1510
01:05:41,108 --> 01:05:42,710
Så, anledningen
alla är verkligen hajpade
1511
01:05:42,744 --> 01:05:45,179
om artificiell intelligens
just nu
1512
01:05:45,212 --> 01:05:48,415
är för att
ju mer hype dessa företag
1513
01:05:48,449 --> 01:05:50,417
de potentiella funktionerna
av deras teknik,
1514
01:05:50,451 --> 01:05:53,555
ju mer investeringar
de kan locka.
1515
01:05:53,588 --> 01:05:55,222
CARL QUINTANILLA:
Amazon investerar upp till
1516
01:05:55,255 --> 01:05:57,592
fyra miljarder dollar
i nystartade Anthropic.
1517
01:05:57,625 --> 01:05:59,193
OpenAI siktar in sig
1518
01:05:59,226 --> 01:06:01,428
på en storsäljande halva
en biljon dollar värdering.
1519
01:06:01,462 --> 01:06:02,597
En halv biljon!
1520
01:06:02,630 --> 01:06:03,731
Loppet är igång.
1521
01:06:03,765 --> 01:06:05,165
Det här händer
snabbare än någonsin.
1522
01:06:05,199 --> 01:06:07,167
Är vi i en AI-bubbla?
Naturligtvis.
1523
01:06:07,201 --> 01:06:09,537
Jag ser bara inte
bubblan spricker
1524
01:06:09,571 --> 01:06:12,707
medan du fortfarande har
denna stora utgiftscykel.
1525
01:06:12,740 --> 01:06:15,409
RASKIN: Även om du tror
det här är bara hype,
1526
01:06:15,442 --> 01:06:18,145
det finns miljarder
till biljoner dollar
1527
01:06:18,178 --> 01:06:21,482
flödar till att göra AI-system
kraftfullare.
1528
01:06:21,516 --> 01:06:24,351
Och när du väl har den saken
det är mer kraftfullt,
1529
01:06:24,384 --> 01:06:25,753
företag kan använda det
1530
01:06:25,787 --> 01:06:27,755
för att få större vinster
och för att tjäna mer pengar.
1531
01:06:27,789 --> 01:06:30,491
Länder kan använda det
för att skapa starkare militärer.
1532
01:06:30,525 --> 01:06:33,293
NVIDIA har gått om
Microsoft och Apple
1533
01:06:33,327 --> 01:06:36,564
att bli världens
mest värdefulla företaget.
1534
01:06:36,598 --> 01:06:39,399
Kapplöpningen att distribuera blir
kapplöpningen mot hänsynslöshet,
1535
01:06:39,433 --> 01:06:42,302
för de kan inte
distribuera det så snabbt
1536
01:06:42,336 --> 01:06:43,538
och också få det rätt.
1537
01:06:43,571 --> 01:06:46,440
Det tror de
de är de goda.
1538
01:06:46,473 --> 01:06:49,611
"Och om jag inte gör det,
någon som inte har
1539
01:06:49,644 --> 01:06:51,779
"lika bra värden som jag
kommer att sitta vid bordet
1540
01:06:51,813 --> 01:06:55,082
att fatta beslut, alltså
Jag har en skyldighet att göra det."
1541
01:06:55,115 --> 01:06:56,551
Ja, det är det
en mycket vanlig tro.
1542
01:06:56,584 --> 01:06:59,152
Många, många, många,
kanske de flesta
1543
01:06:59,186 --> 01:07:01,255
bygga denna teknik
tror det.
1544
01:07:01,288 --> 01:07:04,258
Jag är orolig
den kommersiella konkurrensen,
1545
01:07:04,291 --> 01:07:06,393
men det visar sig
Jag är ännu mer orolig
1546
01:07:06,426 --> 01:07:08,428
den geopolitiska konkurrensen.
1547
01:07:08,462 --> 01:07:10,665
Vi var åtta år efter
ett år sedan.
1548
01:07:10,698 --> 01:07:12,800
Nu är vi förmodligen
mindre än ett år efter.
1549
01:07:12,834 --> 01:07:16,236
Nåväl, båda Saudiarabien
och Förenade Arabemiraten har tävlat
1550
01:07:16,270 --> 01:07:18,673
att sätta upp datacenter
och positionera sig
1551
01:07:18,706 --> 01:07:20,675
som den dominerande kraften inom AI...
1552
01:07:20,708 --> 01:07:22,710
...för att göra Sydkorea
en global AI-ledare.
1553
01:07:22,744 --> 01:07:24,411
JULIA SIEGER:
Frankrikes president Emmanuel Macron
1554
01:07:24,444 --> 01:07:26,380
talade mycket om
artificiell intelligens...
1555
01:07:26,413 --> 01:07:27,715
Nu med mer om Israels roll
1556
01:07:27,749 --> 01:07:29,817
inom artificiell intelligens
revolution...
1557
01:07:29,851 --> 01:07:33,487
Länder kommer att tävla
för vems AI-tekniker
1558
01:07:33,521 --> 01:07:35,355
skapa nästa generation
av industrin.
1559
01:07:35,389 --> 01:07:38,626
Kineserna insisterar
den AI,
1560
01:07:38,660 --> 01:07:40,360
som utvecklas i Kina,
1561
01:07:40,394 --> 01:07:42,095
förstärka kärnvärdena
1562
01:07:42,129 --> 01:07:44,431
av det kinesiska kommunistpartiet
och det kinesiska systemet.
1563
01:07:44,464 --> 01:07:49,269
Amerika måste slå Kina
i AI-loppet.
1564
01:07:49,303 --> 01:07:51,639
DANIEL: Kinas, typ,
ljusår efter.
1565
01:07:51,673 --> 01:07:53,240
Är de?
1566
01:07:53,273 --> 01:07:55,442
Jag menar, de har mycket mer
träningsdata än vi gör,
1567
01:07:55,475 --> 01:07:58,312
och det finns inget som säger dem
släpp inte en modell nästa månad
1568
01:07:58,345 --> 01:08:01,415
det är inte--
överträffar inte GPT-4.
1569
01:08:01,448 --> 01:08:04,318
Allt gick bra.
Vad kan gå fel?
1570
01:08:04,351 --> 01:08:07,254
-DeepSeek... (talar kinesiska)
-DeepSeek... -DeepSeek...
1571
01:08:07,287 --> 01:08:08,455
Det finns en ny modell.
1572
01:08:08,488 --> 01:08:11,325
Men från ett kinesiskt labb
kallas DeepSeek.
1573
01:08:11,358 --> 01:08:14,428
Låt oss prata om DeepSeek,
för det är häpnadsväckande,
1574
01:08:14,461 --> 01:08:18,231
och det skakar detta
hela branschen till sin kärna.
1575
01:08:18,265 --> 01:08:19,701
Trump-administrationen
kommer att säkerställa
1576
01:08:19,734 --> 01:08:23,470
att den mest kraftfulla
AI-system byggs i USA
1577
01:08:23,503 --> 01:08:27,174
med amerikansk design
och tillverkade chips.
1578
01:08:27,207 --> 01:08:29,343
AI är Kinas
Apollo projekt.
1579
01:08:29,376 --> 01:08:30,745
Kinesiska kommunistpartiet
1580
01:08:30,778 --> 01:08:32,179
förstår djupt potentialen
1581
01:08:32,212 --> 01:08:33,380
för att AI ska störa krigföring.
1582
01:08:33,413 --> 01:08:35,650
Google lovar inte längre
att det inte kommer
1583
01:08:35,683 --> 01:08:38,886
använda artificiell intelligens
för vapen eller övervakning.
1584
01:08:38,920 --> 01:08:40,487
Kina, Nordkorea, Ryssland
1585
01:08:40,521 --> 01:08:42,222
kommer att fortsätta bygga den
så snabbt som möjligt
1586
01:08:42,255 --> 01:08:44,792
för att få mer ekonomisk fördel,
mer produktivitetsfördel,
1587
01:08:44,826 --> 01:08:47,361
mer vetenskaplig fördel,
mer militär fördel,
1588
01:08:47,394 --> 01:08:48,896
för AI gör bättre vapen.
1589
01:08:48,930 --> 01:08:52,299
Om du pratar om
ett så brett och kapabelt system
1590
01:08:52,332 --> 01:08:53,635
som en lysande vetenskapsman,
1591
01:08:53,668 --> 01:08:58,271
den kanske kan köras
en militär kampanj
1592
01:08:58,305 --> 01:09:01,743
bättre än någon av generalerna
i den amerikanska regeringen just nu.
1593
01:09:01,776 --> 01:09:06,213
Taiwan är frågan att skapa
mest spänning just nu
1594
01:09:06,246 --> 01:09:08,382
mellan Peking och USA.
1595
01:09:08,415 --> 01:09:10,918
Det finns en direkt
oppositionell oenighet
1596
01:09:10,952 --> 01:09:12,452
mellan USA och Kina
1597
01:09:12,486 --> 01:09:14,454
om Taiwan är
en del av Kina.
1598
01:09:14,488 --> 01:09:18,926
MATHENY: Taiwan är viktigt
av så många anledningar.
1599
01:09:18,960 --> 01:09:20,828
Det är också hemmet för
1600
01:09:20,862 --> 01:09:24,565
cirka 90 % av avancerade chip
tillverkning för världen,
1601
01:09:24,599 --> 01:09:28,903
vilket betyder att utbudet
kedja för avancerad beräkning
1602
01:09:28,936 --> 01:09:31,506
är i riskzonen om det skulle finnas
1603
01:09:31,539 --> 01:09:33,440
något slags scenario
runt Taiwan,
1604
01:09:33,473 --> 01:09:37,712
om det är en blockad
eller en invasion av Kina.
1605
01:09:38,311 --> 01:09:40,948
HENDRYCKS:
Ska vi vara med i något race
1606
01:09:40,982 --> 01:09:45,853
mellan USA och Kina
som så småningom övergår till
1607
01:09:45,887 --> 01:09:49,891
en militariserad AI-kapprustning och,
du vet, potentiella potentiella kunder
1608
01:09:49,924 --> 01:09:51,659
till någon stormaktskonflikt?
1609
01:09:51,693 --> 01:09:53,493
NICK SCHIFRIN: De utgående
USA:s högsta militärbefälhavare
1610
01:09:53,528 --> 01:09:56,396
i regionen
spådde krig på väg.
1611
01:09:56,430 --> 01:09:58,432
Jag tror att hotet är uppenbart
under detta decennium,
1612
01:09:58,465 --> 01:09:59,967
faktiskt under de kommande sex åren.
1613
01:10:00,001 --> 01:10:01,769
MATHENY:
Ehm, ett av scenarierna
1614
01:10:01,803 --> 01:10:06,406
som jag oroar mig för är
ett cyberflashkrig,
1615
01:10:06,440 --> 01:10:11,445
um, en i vilken
cyberverktyg som är autonoma
1616
01:10:11,478 --> 01:10:13,447
tävlar mot varandra
1617
01:10:13,480 --> 01:10:15,248
på sätt som är eskalerande
1618
01:10:15,282 --> 01:10:17,317
utan
meningsfull mänsklig kontroll.
1619
01:10:19,386 --> 01:10:20,755
HARARI:
Du bor i en krigszon,
1620
01:10:20,788 --> 01:10:24,357
det kommer att vara en AI som avgör
om du ska bomba ditt hus
1621
01:10:24,391 --> 01:10:26,326
och om du ska döda dig.
1622
01:10:26,359 --> 01:10:27,995
Låt oss bestämma maskinen.
1623
01:10:28,029 --> 01:10:29,731
Det är frestelsen.
1624
01:10:29,764 --> 01:10:32,867
Det är därför AI är så frestande
för militärer att adoptera,
1625
01:10:32,900 --> 01:10:36,003
att skapa autonoma vapen,
för om jag börjar tro
1626
01:10:36,037 --> 01:10:39,607
att min militära motståndare
ska anamma AI,
1627
01:10:39,640 --> 01:10:42,375
det kommer att bli ett lopp om vem som kan
tryck i avtryckaren snabbare.
1628
01:10:42,409 --> 01:10:45,445
Och den som automatiserar
det beslutet,
1629
01:10:45,479 --> 01:10:47,615
snarare än att ha
en människa i slingan,
1630
01:10:47,648 --> 01:10:49,817
är den ena
som kommer att vinna det kriget.
1631
01:10:49,851 --> 01:10:51,284
Och om man tänker efter
1632
01:10:51,318 --> 01:10:53,755
kärnvapenkapplöpningen
på 1940-talet...
1633
01:10:54,689 --> 01:10:56,891
...du känner tyskarna
arbetar med bomben,
1634
01:10:56,924 --> 01:11:01,361
så det är inte så lätt att säga
Robert Oppenheimer då,
1635
01:11:01,394 --> 01:11:04,031
"Äh, du vet, sakta ner."
1636
01:11:04,065 --> 01:11:05,900
Så efter att ha sett den här filmen,
det kommer att bli förvirrande,
1637
01:11:05,933 --> 01:11:07,300
för du kommer att gå tillbaka,
1638
01:11:07,334 --> 01:11:08,736
och imorgon
du ska använda ChatGPT,
1639
01:11:08,770 --> 01:11:10,772
och det kommer att bli
otroligt hjälpsam.
1640
01:11:10,805 --> 01:11:12,974
Och jag kommer att använda den också, och
det kommer att vara otroligt nyttigt.
1641
01:11:13,007 --> 01:11:16,611
Och du kommer att säga, "Vänta, så
Jag såg precis den här filmen om AI
1642
01:11:16,644 --> 01:11:18,513
"och existentiell risk
och alla dessa saker,
1643
01:11:18,546 --> 01:11:20,915
och var är hotet igen?"
1644
01:11:20,948 --> 01:11:24,986
Och det är inte så ChatGPT är
det existentiella hotet.
1645
01:11:25,019 --> 01:11:29,322
Det är det loppet att distribuera
den mäktigaste,
1646
01:11:29,356 --> 01:11:32,093
outgrundlig,
okontrollerbar teknik,
1647
01:11:32,126 --> 01:11:35,630
under det värsta
möjliga incitament,
1648
01:11:35,663 --> 01:11:37,732
det är det existentiella hotet.
1649
01:11:38,398 --> 01:11:40,935
DANIEL:
Men det slår mig att-det
1650
01:11:40,968 --> 01:11:43,671
vi är i ett lopps sammanhang.
1651
01:11:43,704 --> 01:11:46,473
-SUTSKEVER: Ja.
-Och det är i en tävling,
1652
01:11:46,507 --> 01:11:48,109
"måste komma dit först,
fick vinna loppet",
1653
01:11:48,142 --> 01:11:49,544
"fick tävla mot Kina,
1654
01:11:49,577 --> 01:11:50,945
fick tävla mot
de andra labben."
1655
01:11:50,978 --> 01:11:52,412
Är det inte rätt?
1656
01:11:52,445 --> 01:11:54,115
Idag är det så.
1657
01:11:54,148 --> 01:11:57,552
Så vi måste förändras
den racedynamiken.
1658
01:11:58,519 --> 01:12:00,487
Tycker du inte?
1659
01:12:00,521 --> 01:12:02,857
Jag tror att det skulle vara det
mycket bra faktiskt.
1660
01:12:04,158 --> 01:12:06,928
Jag-tror jag
det finns någon sorts...
1661
01:12:06,961 --> 01:12:10,064
mystik kring AI
det gör att det känns som
1662
01:12:10,097 --> 01:12:11,999
den föll från himlen.
1663
01:12:12,033 --> 01:12:14,001
DANIEL: Funderar på det här
som en gudliknande teknik
1664
01:12:14,035 --> 01:12:15,970
är ett problem.
1665
01:12:16,003 --> 01:12:17,672
Ja.
1666
01:12:18,773 --> 01:12:20,473
Varför?
1667
01:12:20,508 --> 01:12:23,544
Det ger licens
till företagen att...
1668
01:12:23,578 --> 01:12:26,714
(skrattar)
inte ta ansvar
1669
01:12:26,747 --> 01:12:31,418
för de saker som programvaran
som de byggde gör.
1670
01:12:31,451 --> 01:12:35,590
Om folk gjorde den kopplingen,
1671
01:12:35,623 --> 01:12:37,859
kanske det skulle, liksom,
hjälpa dem att förstå igen
1672
01:12:37,892 --> 01:12:42,462
dynamiken i
alla pengar och makt och...
1673
01:12:42,495 --> 01:12:45,933
kaos som händer...
1674
01:12:45,967 --> 01:12:47,602
skapa denna teknik.
1675
01:12:47,635 --> 01:12:49,737
Det är typ fem killar
vem styr det, eller hur?
1676
01:12:49,770 --> 01:12:52,139
-Som fem män?
- I grund och botten, ja.
1677
01:12:52,173 --> 01:12:54,642
-VD:arna?
-Ja.
1678
01:12:54,675 --> 01:12:55,977
Okej.
1679
01:12:57,178 --> 01:12:59,580
♪ ♪
1680
01:13:01,616 --> 01:13:03,618
DANIEL:
Ibland känns det som
1681
01:13:03,651 --> 01:13:07,755
Jag har varit med om detta
bara, som en oändlig resa
1682
01:13:07,788 --> 01:13:09,757
för att försöka förstå detta.
1683
01:13:09,790 --> 01:13:12,994
Du vet, typ
Jag klättrar på ett berg...
1684
01:13:15,930 --> 01:13:19,634
...och varje gång
Jag, liksom, går upp för en kulle,
1685
01:13:19,667 --> 01:13:21,035
Jag tror att jag har nått toppen,
1686
01:13:21,068 --> 01:13:24,005
men det fortsätter bara
och går och går.
1687
01:13:24,038 --> 01:13:25,072
(kameran klickar, surrar)
1688
01:13:25,106 --> 01:13:27,174
Men av allt jag har hört,
1689
01:13:27,208 --> 01:13:30,778
om jag fick gissa vad det är
på toppen av ångestberget,
1690
01:13:30,811 --> 01:13:34,682
det är dessa fem VD:ar
från dessa fem företag,
1691
01:13:34,715 --> 01:13:37,952
som är typ som
Oppenheimers av detta ögonblick.
1692
01:13:37,985 --> 01:13:40,054
Det här är killarna
som bygger den här saken.
1693
01:13:40,087 --> 01:13:41,454
Ja.
1694
01:13:41,488 --> 01:13:44,659
Som, finns det en plan?
1695
01:13:44,692 --> 01:13:46,827
Chefen för företaget
som gör ChatGPT
1696
01:13:46,861 --> 01:13:50,531
varnat för ev
betydande skada för världen.
1697
01:13:50,564 --> 01:13:53,000
Jag tror, om denna teknik
går fel,
1698
01:13:53,034 --> 01:13:54,068
det kan gå rätt fel.
1699
01:13:54,101 --> 01:13:56,237
(utbrott av distinkt prat)
1700
01:13:56,270 --> 01:13:58,072
DANIEL:
Fem killar.
1701
01:13:58,105 --> 01:14:01,943
Jag har aldrig tänkt på oss
som ett socialt medieföretag.
1702
01:14:01,976 --> 01:14:06,814
Det känns som att jag måste försöka
och-och hitta dessa killar...
1703
01:14:06,847 --> 01:14:07,515
Mm-hmm.
1704
01:14:07,548 --> 01:14:09,784
...och få dem i filmen.
1705
01:14:10,584 --> 01:14:13,554
Visst skulle vi få
viss klarhet av det.
1706
01:14:14,188 --> 01:14:15,723
(kameran klickar, surrar)
1707
01:14:16,590 --> 01:14:19,860
Jag menar, pengarna måste sluta
någonstans, eller hur?
1708
01:14:19,894 --> 01:14:21,862
(vinden susar)
1709
01:14:21,896 --> 01:14:23,731
♪ ♪
1710
01:14:24,398 --> 01:14:26,734
(verktyg snurrar och klickar)
1711
01:14:27,668 --> 01:14:29,870
(suskande)
1712
01:14:34,608 --> 01:14:35,810
DANIEL:
Hur känns det?
1713
01:14:35,843 --> 01:14:38,212
-Stor.
- Är det okej?
1714
01:14:38,245 --> 01:14:39,847
-Ja.
-(otydligt besättningssnack)
1715
01:14:39,880 --> 01:14:41,582
-Kan jag flytta fram sätet?
-DANIEL: Ja, det kan du.
1716
01:14:41,615 --> 01:14:42,717
Det är, eh, det är bara
lite besvärligt.
1717
01:14:42,750 --> 01:14:43,985
Jag är lite, typ...
1718
01:14:44,018 --> 01:14:45,619
Dario, hur känner du
om den där stolen?
1719
01:14:45,653 --> 01:14:47,588
Ja, stolen är bra.
1720
01:14:47,621 --> 01:14:49,290
-Jag ville bara flytta den
lite framåt. -Okej.
1721
01:14:49,323 --> 01:14:51,125
Jag valde den stolen.
1722
01:14:51,158 --> 01:14:52,727
-Det är en bra stol.
-Tack.
1723
01:14:52,760 --> 01:14:54,562
(mobiltelefonen ringer)
1724
01:14:58,332 --> 01:15:00,500
TED:
Och bara sitta där.
1725
01:15:02,036 --> 01:15:03,104
Och så här igenom,
1726
01:15:03,137 --> 01:15:05,006
vi kommer att titta på varandra
genom detta glas.
1727
01:15:05,039 --> 01:15:07,074
(upptaget signal piper)
1728
01:15:11,879 --> 01:15:13,948
Och sitter tillbaka i stolen,
lutar sig framåt?
1729
01:15:13,981 --> 01:15:15,683
-DANIEL: Ja. Nåväl, vad som helst
bekvämt tycker jag. -Okej.
1730
01:15:15,716 --> 01:15:17,018
Det är lite coolt.
Det finns ett gäng speglar.
1731
01:15:17,051 --> 01:15:18,285
-Är det... okej.
-KVINNA: Sam A., ta en. Mark.
1732
01:15:18,319 --> 01:15:19,920
-Hur är det?
-Bra. Tack.
1733
01:15:19,954 --> 01:15:21,622
DANIEL: Uppkomsten
av det här projektet är att jag var
1734
01:15:21,655 --> 01:15:23,290
sitter hemma,
och jag lekte med,
1735
01:15:23,324 --> 01:15:24,859
Jag tror, din bildgenerator,
1736
01:15:24,892 --> 01:15:27,762
och jag var samtidigt,
eh, livrädd
1737
01:15:27,795 --> 01:15:29,897
-och verkligen imponerad.
-(skrattar mjukt)
1738
01:15:29,930 --> 01:15:32,333
-Det är den vanliga kombinationen.
-Och sedan klippa till
1739
01:15:32,366 --> 01:15:35,002
min fru och jag får reda på det
vi väntar.
1740
01:15:35,036 --> 01:15:38,773
Och-och jag har liksom
en existentiell kris
1741
01:15:38,806 --> 01:15:40,775
som min fru är
gravid i sjätte månaden.
1742
01:15:40,808 --> 01:15:43,577
Och jag tror att min första fråga,
som jag frågar alla:
1743
01:15:43,611 --> 01:15:46,080
Det är en hemsk tid nu
att få ett barn?
1744
01:15:46,113 --> 01:15:47,848
Gör jag ett stort misstag?
1745
01:15:47,882 --> 01:15:49,650
Jag väntar ett barn
i mars också. Min första.
1746
01:15:49,683 --> 01:15:50,918
-Väntar du ett barn?
-Ja.
1747
01:15:50,951 --> 01:15:52,319
-Väntar du i mars?
-Första barnet.
1748
01:15:52,353 --> 01:15:53,788
-Mazel tov.
-Tack så mycket.
1749
01:15:53,821 --> 01:15:54,922
Jag har aldrig varit så exalterad
för vad som helst.
1750
01:15:54,955 --> 01:15:57,091
-Det är så jag känner.
-Ja.
1751
01:15:57,124 --> 01:15:58,759
Men du är inte rädd?
1752
01:15:58,793 --> 01:16:03,064
Jag menar att ha ett barn
bara denna betydelsefulla sak
1753
01:16:03,097 --> 01:16:05,633
att jag, du vet,
Jag är vaken varje natt, typ
1754
01:16:05,666 --> 01:16:07,334
läsa dessa böcker om
hur man uppfostrar ett barn,
1755
01:16:07,368 --> 01:16:08,769
och jag hoppas
Jag ska göra ett bra jobb,
1756
01:16:08,803 --> 01:16:09,804
och det känns
mycket överväldigande och--
1757
01:16:09,837 --> 01:16:12,673
men jag är inte rädd...
1758
01:16:12,706 --> 01:16:14,675
för barn att växa upp
i en värld med AI.
1759
01:16:14,708 --> 01:16:16,811
Som, det är... det kommer att bli okej.
1760
01:16:16,844 --> 01:16:19,280
Det är bra att höra
kommer från killen.
1761
01:16:19,313 --> 01:16:21,082
Jag tycker att det är en underbar idé
att skaffa barn.
1762
01:16:21,115 --> 01:16:23,784
Jag tror att de är de flesta
magisk, otrolig sak.
1763
01:16:23,818 --> 01:16:25,820
-(suckar tungt)
- Det är så mycket osäkerhet,
1764
01:16:25,853 --> 01:16:27,188
Jag skulle nästan bara göra det
vad du ska göra ändå.
1765
01:16:27,221 --> 01:16:29,223
Jag vet att det inte är det
ett mycket tillfredsställande svar,
1766
01:16:29,256 --> 01:16:32,359
men det är den enda
Jag kan komma på.
1767
01:16:32,393 --> 01:16:34,929
Våra barn kommer aldrig...
1768
01:16:34,962 --> 01:16:37,331
vet en värld som inte har
riktigt avancerad AI.
1769
01:16:37,364 --> 01:16:40,167
Faktum är att våra barn aldrig kommer att göra det
vara smartare än en AI.
1770
01:16:40,201 --> 01:16:42,703
DANIEL: "Våra barn kommer att göra det
aldrig bli smartare än en AI"?
1771
01:16:42,736 --> 01:16:44,839
Tja, från en rå,
ur ett rå IQ-perspektiv,
1772
01:16:44,872 --> 01:16:46,807
de kommer aldrig att bli
smartare än en AI.
1773
01:16:46,841 --> 01:16:48,309
Det gör inte den föreställningen
störa dig lite?
1774
01:16:48,342 --> 01:16:51,712
För det får mig att känna
lite illamående på ett konstigt sätt.
1775
01:16:51,745 --> 01:16:55,316
Det gör mig orolig
lite.
1776
01:16:55,349 --> 01:16:56,817
Men det är verklighet.
1777
01:16:56,851 --> 01:16:58,819
DANIEL:
Okej, racedynamik alltså.
1778
01:16:58,853 --> 01:17:01,655
Vi har ett gäng människor
som alla är överens
1779
01:17:01,689 --> 01:17:03,190
att detta är läskigt.
1780
01:17:03,224 --> 01:17:05,126
Baserat på tidslinjerna som
många människor har gett mig,
1781
01:17:05,159 --> 01:17:07,661
vi har mellan två månader och
fem år att ta reda på detta.
1782
01:17:07,695 --> 01:17:09,063
-Ja.
-Och-och, antar jag,
1783
01:17:09,096 --> 01:17:13,767
min största fråga är:
Varför kan vi inte bara sluta?
1784
01:17:14,768 --> 01:17:19,340
Problemet med, eh, eh,
"bara sluta" är det, um,
1785
01:17:19,373 --> 01:17:22,776
det finns många, många grupper nu
runt om i världen, eh, eh,
1786
01:17:22,810 --> 01:17:26,113
bygga detta, för
många nationer, många företag,
1787
01:17:26,147 --> 01:17:28,749
eh, alla med
olika motiv.
1788
01:17:28,782 --> 01:17:31,152
Det finns några av
dessa företag i detta utrymme
1789
01:17:31,185 --> 01:17:34,455
vem deras position är, "Vi vill ha
att utveckla denna teknik
1790
01:17:34,488 --> 01:17:36,323
absolut så snabbt som möjligt."
1791
01:17:36,357 --> 01:17:40,694
Och även om vi kunde stifta lagar
i USA och i Europa,
1792
01:17:40,728 --> 01:17:42,897
vi måste övertyga...
1793
01:17:42,930 --> 01:17:45,266
Xi Jinping och Vladimir Putin
eller, du vet,
1794
01:17:45,299 --> 01:17:47,968
vem som än är vetenskaplig
rådgivare är på deras sida.
1795
01:17:48,002 --> 01:17:49,837
Det kommer att bli riktigt svårt.
1796
01:17:49,870 --> 01:17:51,238
Jag tror att det är sant
1797
01:17:51,272 --> 01:17:54,041
att om två personer är
på exakt samma plats,
1798
01:17:54,074 --> 01:17:56,410
eh, den som är villig att ta
fler genvägar för säkerhet
1799
01:17:56,443 --> 01:17:58,746
borde typ
"kom dit först."
1800
01:17:58,779 --> 01:18:01,715
Eh, men...
1801
01:18:01,749 --> 01:18:03,284
vi kan använda vårt ledarskap
1802
01:18:03,317 --> 01:18:06,720
att spendera mycket mer tid
gör säkerhetstester.
1803
01:18:06,754 --> 01:18:08,455
DANIEL:
Och vad händer om du tappar bort den?
1804
01:18:08,489 --> 01:18:10,057
Du får samtalet
och du får reda på det
1805
01:18:10,090 --> 01:18:12,092
att du är nu, låt oss säga,
sex månader efter.
1806
01:18:12,126 --> 01:18:14,828
-Vad-vad händer då?
-Det beror på vem vi står bakom.
1807
01:18:14,862 --> 01:18:17,364
Om det är, typ,
en kontradiktorisk regering,
1808
01:18:17,398 --> 01:18:19,200
det är nog riktigt illa.
1809
01:18:19,233 --> 01:18:21,902
Så låt oss säga att du får samtalet
att Kina har en,
1810
01:18:21,936 --> 01:18:25,172
har ett rekursivt
självförbättrande medel
1811
01:18:25,206 --> 01:18:27,808
eller något sånt som vi
borde vara riktigt orolig.
1812
01:18:27,841 --> 01:18:30,010
Vad gör--vad-vad händer?
1813
01:18:31,478 --> 01:18:33,113
Um...
1814
01:18:35,950 --> 01:18:37,484
Det fallet skulle kräva...
1815
01:18:37,519 --> 01:18:41,088
det första steget skulle finnas
att prata med den amerikanska regeringen.
1816
01:18:41,121 --> 01:18:43,457
Sam, litar du på
regeringens förmåga att hantera
1817
01:18:43,490 --> 01:18:45,292
något sånt här?
1818
01:18:46,427 --> 01:18:48,162
Ja, det gör jag faktiskt.
1819
01:18:48,195 --> 01:18:50,030
Det finns andra saker som jag inte gör
lita på att regeringen hanterar,
1820
01:18:50,064 --> 01:18:51,832
men just det scenariot,
Jag tror att de skulle veta...
1821
01:18:51,865 --> 01:18:53,167
de-de-- ja.
1822
01:18:53,200 --> 01:18:54,969
DANIEL: När du har,
som privata diskussioner
1823
01:18:55,002 --> 01:18:56,937
med de andra killarna vars
fingrarna är på avtryckaren,
1824
01:18:56,971 --> 01:19:00,241
så att säga, um,
gör de där privata diskussionerna
1825
01:19:00,274 --> 01:19:01,875
fyll dig med självförtroende
1826
01:19:01,909 --> 01:19:03,545
eller gör de dig,
eh, mer orolig?
1827
01:19:03,578 --> 01:19:07,414
Jag menar, jag känner några
av dem bättre än andra.
1828
01:19:07,448 --> 01:19:10,417
Jag har mer självförtroende
i några av dem än jag har
1829
01:19:10,451 --> 01:19:12,920
i andra, du vet,
som med, som med alla människor.
1830
01:19:12,953 --> 01:19:14,388
du vet,
du tänker på, du vet,
1831
01:19:14,421 --> 01:19:16,223
barnen i din gymnasieskola
klass eller något, eller hur?
1832
01:19:16,257 --> 01:19:18,526
Du vet, några av dem är
du vet, riktigt söt.
1833
01:19:18,560 --> 01:19:20,961
Vissa av dem är välmenande
men inte så effektivt.
1834
01:19:20,995 --> 01:19:22,930
Några av dem är,
ni vet, mobbare.
1835
01:19:22,963 --> 01:19:24,198
Några av dem är det
riktigt dåliga människor.
1836
01:19:24,231 --> 01:19:26,300
(stammar)
Du-du typ verkligen,
1837
01:19:26,333 --> 01:19:27,535
man ser verkligen spridningen.
1838
01:19:27,569 --> 01:19:29,236
Du vet, är jag, är jag,
är jag säker
1839
01:19:29,270 --> 01:19:31,071
som alla kommer att göra
det rätta,
1840
01:19:31,105 --> 01:19:32,540
att allt kommer att lösa sig?
1841
01:19:32,574 --> 01:19:34,241
Nä, det är jag inte.
1842
01:19:34,275 --> 01:19:36,010
Och det finns-det finns ingenting
Jag kan göra åt det, eller hur?
1843
01:19:36,043 --> 01:19:38,379
Du vet, allt jag kan göra
är-är push för,
1844
01:19:38,412 --> 01:19:39,813
tryck på, du vet,
1845
01:19:39,847 --> 01:19:41,181
driva på regeringen
att engagera sig.
1846
01:19:41,215 --> 01:19:43,150
Men i slutändan är jag bara
en person där också.
1847
01:19:43,183 --> 01:19:44,586
det är--
det är-det är upp till oss alla
1848
01:19:44,619 --> 01:19:46,353
att driva på regeringen
att engagera sig.
1849
01:19:46,387 --> 01:19:49,023
Det är nummer ett
det-det tror jag att vi måste göra
1850
01:19:49,056 --> 01:19:51,292
till-till, du vet, att ställa saker
i rätt riktning.
1851
01:19:51,325 --> 01:19:53,160
Det som gör mig orolig
om det är typ
1852
01:19:53,193 --> 01:19:56,463
den grundläggande verkligheten som
hastighet med vilken tekniken
1853
01:19:56,497 --> 01:19:58,966
sprider sig och växer
är exponentiell,
1854
01:19:58,999 --> 01:20:02,002
och mekanismerna för att lagstifta
är 300 år gamla,
1855
01:20:02,036 --> 01:20:03,304
-ta för evigt.
-Ja.
1856
01:20:03,337 --> 01:20:05,573
Ehm, tror jag
det kommer att bli ett tungt lyft.
1857
01:20:05,607 --> 01:20:07,274
Jag håller definitivt med
med dig på det.
1858
01:20:07,308 --> 01:20:09,276
DANIEL: Du vet,
vad jag bokstavligen letar efter
1859
01:20:09,310 --> 01:20:11,513
är-är som,
"Här är steg som, som,
1860
01:20:11,546 --> 01:20:15,449
"huvudhonchosna kommer att göra det
ta till för att fokusera på säkerhet,
1861
01:20:15,482 --> 01:20:18,586
för att mildra faran
och maximera löftet."
1862
01:20:18,620 --> 01:20:20,588
Och det gör jag inte,
Jag vet inte, jag vet inte
1863
01:20:20,622 --> 01:20:22,423
att det finns
ett enkelt svar på det.
1864
01:20:22,456 --> 01:20:24,091
Um...
1865
01:20:26,360 --> 01:20:28,262
Jag menar, det här kanske är
för enkelt,
1866
01:20:28,295 --> 01:20:30,632
men du...
1867
01:20:30,665 --> 01:20:32,333
skapa en ny modell,
1868
01:20:32,366 --> 01:20:35,202
du studerar och testar det
mycket noggrant.
1869
01:20:35,235 --> 01:20:37,871
Du lägger ut det
gradvis in i världen,
1870
01:20:37,905 --> 01:20:40,074
och sedan, mer och mer,
du förstår
1871
01:20:40,107 --> 01:20:41,875
om det är säkert eller inte,
och sedan om det är det,
1872
01:20:41,909 --> 01:20:43,377
du kan ta nästa steg.
1873
01:20:44,445 --> 01:20:47,414
Det låter inte lika flashigt
som en briljant vetenskapsman
1874
01:20:47,448 --> 01:20:50,652
kommer på en idé i en
labb för att göra ett AI-system, som,
1875
01:20:50,685 --> 01:20:54,355
helt säker och kontrollerbar
och allt annat,
1876
01:20:54,388 --> 01:20:56,190
men det är vad jag tror
kommer att hända.
1877
01:20:56,223 --> 01:20:57,559
Som, det är vägen
Jag tror att det här fungerar.
1878
01:20:57,592 --> 01:20:59,561
Men låt oss bara säga
något hemskt händer,
1879
01:20:59,594 --> 01:21:02,429
som en modell lossnar
eller blir skurk eller något.
1880
01:21:02,463 --> 01:21:04,031
Finns det något protokoll?
1881
01:21:04,064 --> 01:21:06,266
Som, bokstavligen,
Jag föreställer mig en röd telefon.
1882
01:21:06,300 --> 01:21:07,635
-Ja.
-Förlåt för att jag tänker på det här
1883
01:21:07,669 --> 01:21:09,103
när det gäller filmer, men liksom...
1884
01:21:09,136 --> 01:21:10,371
Det finns ett protokoll.
1885
01:21:10,404 --> 01:21:12,039
-Finns det en röd telefon
på ditt skrivbord? -Inga.
1886
01:21:12,072 --> 01:21:13,508
(skrattar):
Är det en hemlighet?
1887
01:21:13,541 --> 01:21:15,643
Jag menar, eh, nej, det är det inte,
det är inte lika snyggt eller dramatiskt
1888
01:21:15,677 --> 01:21:17,512
som du vill hoppas,
men det finns liksom, du vet--
1889
01:21:17,545 --> 01:21:19,279
vi har liksom tänkt igenom
dessa scenarier,
1890
01:21:19,313 --> 01:21:21,081
och om detta händer,
vi kommer att ringa dessa människor
1891
01:21:21,115 --> 01:21:22,349
i denna ordning och gör så här
1892
01:21:22,383 --> 01:21:24,017
och typ av fabrikat
dessa beslut om, som--
1893
01:21:24,051 --> 01:21:26,387
Jag tror det
när du har möjlighet
1894
01:21:26,420 --> 01:21:29,423
att tänka innan
en stressig situation inträffar,
1895
01:21:29,456 --> 01:21:30,991
det är nästan alltid
en bra idé.
1896
01:21:31,024 --> 01:21:32,226
Och att skriva ner det är bra.
1897
01:21:32,259 --> 01:21:34,128
– Att vara förberedd är till hjälp.
-Ja.
1898
01:21:34,962 --> 01:21:36,397
(suckar) Du...
1899
01:21:36,430 --> 01:21:39,233
Det skulle vara omöjligt
för att jag ska sitta mitt emot dig
1900
01:21:39,266 --> 01:21:41,669
och-och ber dig lova mig
att det här kommer att gå bra?
1901
01:21:41,703 --> 01:21:43,504
Det är omöjligt.
1902
01:21:44,104 --> 01:21:46,173
Det finns inga enkla svar,
tyvärr.
1903
01:21:46,206 --> 01:21:48,442
För att det är så
en banbrytande teknik,
1904
01:21:48,475 --> 01:21:50,244
hm, det finns fortfarande
många okända.
1905
01:21:50,277 --> 01:21:52,714
Och det tycker jag
det-det måste vara,
1906
01:21:52,747 --> 01:21:55,416
eh, du vet, förstod
1907
01:21:55,449 --> 01:21:59,554
och-och därav behovet
för, eh, eh, lite försiktighet.
1908
01:21:59,587 --> 01:22:01,288
Jag vaknar, du vet, varje dag,
1909
01:22:01,321 --> 01:22:04,024
detta är, det här är
nummer ett jag tänker på.
1910
01:22:04,057 --> 01:22:05,459
Se nu, jag är människa,
1911
01:22:05,492 --> 01:22:08,596
och, du vet, har-har
var alla beslut perfekta?
1912
01:22:08,630 --> 01:22:12,166
Kan jag ens säga mina motiveringar
var alltid helt tydliga?
1913
01:22:12,199 --> 01:22:14,101
Naturligtvis inte.
Det kan ingen säga.
1914
01:22:14,134 --> 01:22:17,004
Som, det är-så
bara inte, liksom, du vet--
1915
01:22:17,037 --> 01:22:19,173
det är det bara inte
hur människor arbetar.
1916
01:22:19,206 --> 01:22:21,408
Vetenskapens historia
brukar vara det,
1917
01:22:21,442 --> 01:22:23,745
på gott och ont,
om något är möjligt att göra--
1918
01:22:23,778 --> 01:22:27,414
och vi vet nu att AI är möjligt
att göra - mänskligheten gör det.
1919
01:22:27,448 --> 01:22:30,217
Allt detta
skulle hända.
1920
01:22:30,250 --> 01:22:32,587
Det här tåget
kommer inte att sluta.
1921
01:22:32,620 --> 01:22:34,722
Du kan inte kliva framför
tåget och stoppa det.
1922
01:22:34,756 --> 01:22:36,724
Du kommer bara att bli klämd.
1923
01:22:36,758 --> 01:22:39,226
ALTMAN:
Jag menar, det är väldigt stressigt.
1924
01:22:40,194 --> 01:22:41,462
Du vet, det finns typ
1925
01:22:41,495 --> 01:22:43,197
en massa saker
många av oss vet inte.
1926
01:22:43,230 --> 01:22:47,000
Jag tror historien
av vetenskaplig upptäckt är
1927
01:22:47,034 --> 01:22:48,736
en av att inte veta
det du inte vet
1928
01:22:48,770 --> 01:22:50,204
och ta reda på när du går.
1929
01:22:50,237 --> 01:22:53,575
Eh, men, ja, det är en...
1930
01:22:53,608 --> 01:22:55,976
det är ett stressigt sätt att leva.
1931
01:22:56,811 --> 01:22:59,246
DANIEL: Rätt. Sam, tack
mycket för att du gör detta.
1932
01:22:59,279 --> 01:23:01,081
-Och igen, mazel tov.
-Tack. Och till dig.
1933
01:23:01,114 --> 01:23:03,383
Tack så mycket. Tack, killar.
1934
01:23:03,417 --> 01:23:06,253
♪ ♪
1935
01:23:08,388 --> 01:23:09,990
(suckar)
1936
01:23:11,593 --> 01:23:13,528
(el sprakande)
1937
01:23:13,561 --> 01:23:16,363
-(åska)
-(väsande, grymtande)
1938
01:23:43,190 --> 01:23:45,392
-(VCR-klick)
-(linje ringer)
1939
01:23:48,328 --> 01:23:49,797
-(radklick)
-KEVIN ROHER: Hej.
1940
01:23:49,831 --> 01:23:51,131
DANIEL:
Hej, pappa, hur mår du?
1941
01:23:51,164 --> 01:23:52,165
KEVIN:
Bra. Hur mår du?
1942
01:23:52,199 --> 01:23:53,500
Arbetar du? Vad håller du på med?
1943
01:23:53,535 --> 01:23:55,770
DANIEL:
Jag jobbar på den här AI-filmen.
1944
01:23:55,803 --> 01:23:58,305
KEVIN:
Och hur går det?
1945
01:23:58,338 --> 01:24:00,708
DANIEL:
Du vet, det... det är verkligen...
1946
01:24:00,742 --> 01:24:02,544
-JOANNE ROHER: Hej, sötnos.
-DANIEL: Hej, mamma.
1947
01:24:02,577 --> 01:24:04,344
JOANNE: Så vad är det
förutsättningen för filmen?
1948
01:24:04,378 --> 01:24:07,180
Är det en dokumentär?
Kev, använd inga fler kryddor.
1949
01:24:07,214 --> 01:24:08,816
Det är redan överkryddat.
1950
01:24:08,850 --> 01:24:10,718
Vi gör kyckling just nu.
1951
01:24:10,752 --> 01:24:13,186
-Är det en dokumentär eller vad...
-DANIEL: Det handlar om--
1952
01:24:13,220 --> 01:24:14,421
filmen handlar om
världens ände.
1953
01:24:14,454 --> 01:24:16,290
Slutet för världens ankomst,
1954
01:24:16,323 --> 01:24:18,158
och vi gör en film
om världens ände.
1955
01:24:18,191 --> 01:24:20,327
-JOANNE: Verkligen?
-DANIEL: Ja.
1956
01:24:20,360 --> 01:24:22,162
KEVIN: Som deprimerande
film, låter det som.
1957
01:24:22,195 --> 01:24:23,698
JOANNE:
Ja.
1958
01:24:23,731 --> 01:24:29,436
DANIEL: Jag känner mycket,
som-- denna mycket akuta ångest.
1959
01:24:29,469 --> 01:24:31,673
JOANNE: Det är så läskigt,
men det måste finnas--
1960
01:24:31,706 --> 01:24:35,810
du vet, har ni träffats
några supersmarta människor
1961
01:24:35,843 --> 01:24:38,312
som ger dig några svar?
1962
01:24:38,345 --> 01:24:40,113
DANIEL: Det är vad som är
frustrerande över det.
1963
01:24:40,147 --> 01:24:41,683
Ingen vet.
1964
01:24:41,716 --> 01:24:44,384
JOANNE:
Allt jag kan säga till det är att
1965
01:24:44,418 --> 01:24:50,190
varje generation har haft
något sådant här läskigt.
1966
01:24:50,223 --> 01:24:52,760
KEVIN: När jag föddes var det
Kubanska missilkrisen.
1967
01:24:52,794 --> 01:24:54,596
(fast hjärtslag)
1968
01:24:54,629 --> 01:24:56,864
Jag var bara rädd för det där
skulle bli ett kärnvapenkrig.
1969
01:24:56,898 --> 01:24:58,298
JOANNE:
Ja, men vi visste inte
1970
01:24:58,332 --> 01:24:59,534
vad de skulle göra och...
1971
01:24:59,567 --> 01:25:01,168
KEVIN:
Och världen tog inte slut.
1972
01:25:01,201 --> 01:25:02,202
Alla vaknade
nästa morgon,
1973
01:25:02,235 --> 01:25:03,871
och vi gör fortfarande vår grej.
1974
01:25:03,905 --> 01:25:05,439
DANIEL:
Jag är väldigt rädd,
1975
01:25:05,472 --> 01:25:07,407
särskilt i
sammanhanget för, som,
1976
01:25:07,441 --> 01:25:09,577
-du vet, bebisen och...
- (foster hjärtslag pulserar)
1977
01:25:09,611 --> 01:25:11,178
KEVIN:
Det kommer att bli en inlärningskurva.
1978
01:25:11,211 --> 01:25:12,479
JOANNE:
Du kommer att bli okej.
1979
01:25:12,513 --> 01:25:13,681
KEVIN: Du kan inte,
du kan inte tänka på
1980
01:25:13,715 --> 01:25:14,849
det du inte kan kontrollera, Daniel.
1981
01:25:14,882 --> 01:25:16,551
Kom bara ihåg det.
1982
01:25:16,584 --> 01:25:18,251
DANIEL (rösten bryter):
Jag känner verkligen, jag känner verkligen
1983
01:25:18,285 --> 01:25:19,587
nervös och rädd för det.
1984
01:25:19,621 --> 01:25:21,488
Det finns så mycket
som jag inte kan kontrollera.
1985
01:25:21,522 --> 01:25:24,358
KEVIN: Var inte nervös.
Du kan inte låta det komma till dig.
1986
01:25:24,391 --> 01:25:26,794
Du kan bara kontrollera
vad du kan kontrollera,
1987
01:25:26,828 --> 01:25:28,395
och det är allt du kan göra.
1988
01:25:28,428 --> 01:25:31,231
Du kan inte göra mer än så.
1989
01:25:31,264 --> 01:25:33,433
Skriv ner det i din bok.
1990
01:25:35,870 --> 01:25:37,572
♪ ♪
1991
01:25:44,712 --> 01:25:47,447
(foster hjärtslag pulserar)
1992
01:25:47,481 --> 01:25:49,651
(yler)
1993
01:25:49,684 --> 01:25:52,219
CAROLINE:
När du ser tillbaka,
1994
01:25:52,252 --> 01:25:54,922
världen tar alltid slut.
1995
01:25:54,956 --> 01:25:57,357
Och när du ser framåt,
1996
01:25:57,391 --> 01:25:59,627
världen tar alltid slut.
1997
01:25:59,661 --> 01:26:02,429
...bränna.
Ett hem brinner redan...
1998
01:26:02,462 --> 01:26:06,299
CAROLINE: Men världen
startar alltid också.
1999
01:26:08,402 --> 01:26:10,437
DANIEL:
Är du redo?
2000
01:26:10,470 --> 01:26:12,674
Är du någonsin verkligen redo?
2001
01:26:16,443 --> 01:26:18,278
DANIEL: Du vill köra
eller vill du att jag ska köra?
2002
01:26:18,311 --> 01:26:19,547
CAROLINE:
Du kör.
2003
01:26:20,815 --> 01:26:22,382
-(kvinna talar otydligt)
-CAROLINE: Okej.
2004
01:26:22,416 --> 01:26:24,284
DANIEL:
Tack, Maria.
2005
01:26:24,317 --> 01:26:26,654
KVINNAN: Det kommer bara
känner mig riktigt krampig.
2006
01:26:26,688 --> 01:26:28,355
-CAROLINE: Okej.
-KVINNA: Är du redo?
2007
01:26:28,388 --> 01:26:29,691
-CAROLINE: Ja.
-(otydligt prat)
2008
01:26:29,724 --> 01:26:30,958
(Caroline suckar tungt)
2009
01:26:30,992 --> 01:26:33,326
KVINNA: Du kan vara i en
medicinskt drama med allt det där...
2010
01:26:34,595 --> 01:26:36,597
♪ ♪
2011
01:26:44,706 --> 01:26:46,607
-(statiska sprakar)
-(otydligt prat)
2012
01:26:49,610 --> 01:26:51,746
KVINNA:
...viss press.
2013
01:26:53,313 --> 01:26:54,749
Slappna av.
2014
01:26:57,451 --> 01:26:59,821
-(barn som gråter)
-(enheten piper)
2015
01:27:02,623 --> 01:27:05,626
DANIEL:
Hej, kompis. Åh.
2016
01:27:05,660 --> 01:27:06,961
Hej, kompis.
2017
01:27:06,994 --> 01:27:09,362
♪ ♪
2018
01:27:31,652 --> 01:27:34,321
KEVIN:
Det kommer att bli en helt ny värld
2019
01:27:34,354 --> 01:27:35,723
för dig, Daniel.
2020
01:27:37,658 --> 01:27:40,762
Och det tror jag att du kommer att bli
en fantastisk pappa.
2021
01:27:41,863 --> 01:27:44,899
JOANNE (skratt):
Det är säkert.
2022
01:27:44,932 --> 01:27:47,068
-(Kevin gråter)
-Åh.
2023
01:27:47,101 --> 01:27:49,302
(gråten fortsätter)
2024
01:27:49,336 --> 01:27:51,572
KEVIN:
Du kommer att göra ett bra jobb.
2025
01:27:52,206 --> 01:27:53,541
JOANNE:
Kev, varför gråter du?
2026
01:27:53,574 --> 01:27:55,076
KEVIN:
Jag gråter för att...
2027
01:27:55,109 --> 01:27:57,545
Jag vet inte. Jag gör bara inte...
2028
01:27:57,578 --> 01:27:59,914
DANIEL: Pappa, du kommer att göra det
får mig också att gråta.
2029
01:27:59,947 --> 01:28:01,549
Varför gråter du?
2030
01:28:03,651 --> 01:28:05,853
KEVIN: Jag vet bara det
du kommer att bli en fantastisk pappa.
2031
01:28:05,887 --> 01:28:07,655
DANIEL (gråter):
Jag kommer bara att bli en fantastisk pappa
2032
01:28:07,688 --> 01:28:09,957
för att jag hade en fantastisk pappa.
2033
01:28:09,991 --> 01:28:12,894
KEVIN: Jag blir känslosam,
det är allt.
2034
01:28:12,927 --> 01:28:14,327
JOANNE:
Oj.
2035
01:28:14,361 --> 01:28:15,462
(skämtsamt prat över video)
2036
01:28:15,495 --> 01:28:17,064
(över video):
Pojke, åh, pojke!
2037
01:28:17,098 --> 01:28:18,633
Herregud!
2038
01:28:19,267 --> 01:28:21,035
Titta på de där små fräcka.
2039
01:28:21,068 --> 01:28:25,573
Titta på de där små fräcka.
Titta på de där små fräcka.
2040
01:28:25,606 --> 01:28:26,741
Ja.
2041
01:28:26,774 --> 01:28:29,376
DANIEL:
I know how to end this movie.
2042
01:28:30,011 --> 01:28:31,712
Bebisar.
2043
01:28:32,379 --> 01:28:35,883
-The end of the movie is about
babies. -(chatter over videos)
2044
01:28:35,917 --> 01:28:37,618
They're life-affirming.
2045
01:28:37,652 --> 01:28:39,486
They're exhausting.
2046
01:28:39,520 --> 01:28:41,421
-(bebis skrattar)
-They're hilarious.
2047
01:28:41,454 --> 01:28:42,957
And they're worth it.
2048
01:28:42,990 --> 01:28:46,828
This film isn't about the
inner workings of a technology.
2049
01:28:46,861 --> 01:28:48,696
Det handlar inte om
the billionaire CEOs.
2050
01:28:48,729 --> 01:28:50,665
It's not about the geopolitics.
2051
01:28:50,698 --> 01:28:53,935
Det handlar inte om det skrämmande
framtid eller världens ände,
2052
01:28:53,968 --> 01:28:56,137
eftersom min värld
har precis börjat.
2053
01:28:56,170 --> 01:28:57,972
Jag bygger en spjälsäng.
2054
01:28:58,005 --> 01:28:59,907
Just här, just nu.
2055
01:28:59,941 --> 01:29:01,008
(bebis kurrar)
2056
01:29:01,042 --> 01:29:02,743
AI kommer att förändra allt
2057
01:29:02,777 --> 01:29:05,913
på sätt för kraftfulla och
komplicerat för oss att förstå.
2058
01:29:05,947 --> 01:29:09,717
Och framtiden är det inte
för någon av oss att bestämma.
2059
01:29:10,818 --> 01:29:13,921
Men vad jag kan bestämma är att vara
bästa möjliga make
2060
01:29:13,955 --> 01:29:17,992
för min fru och den bästa
möjlig pappa för min son.
2061
01:29:18,025 --> 01:29:21,796
Så om vår AI-framtid är
en mardrömslik dystopi
2062
01:29:21,829 --> 01:29:24,098
eller utopin
som vi alla drömmer om,
2063
01:29:24,131 --> 01:29:27,134
Jag vet åtminstone
att jag gjorde allt jag kunde
2064
01:29:27,168 --> 01:29:30,605
för att vägleda min familj
genom denna AI-revolution.
2065
01:29:30,638 --> 01:29:34,474
Och oavsett vad,
vi kommer att möta det tillsammans.
2066
01:29:34,508 --> 01:29:35,877
(upplyftande musik sväller)
2067
01:29:35,910 --> 01:29:37,444
(musiken stannar plötsligt)
2068
01:29:37,477 --> 01:29:40,047
DANIEL:
Så det är bara vår första idé.
2069
01:29:40,715 --> 01:29:43,084
Hur känns det här?
Känner du det här?
2070
01:29:43,117 --> 01:29:45,720
Vänta, jag-- liksom, det här är inte--
det här är ett skämt.
2071
01:29:45,753 --> 01:29:48,388
Det är det faktiskt inte
hur du ska avsluta det.
2072
01:29:50,591 --> 01:29:53,160
Jag menar, det är bara en idé. Okej?
2073
01:29:53,194 --> 01:29:54,996
Nej, Daniel.
2074
01:29:55,029 --> 01:29:56,631
... eh, väldigt, väldigt dumt.
2075
01:29:56,664 --> 01:29:59,166
Du har precis spenderat, det gör inte jag
vet, typ, hur många år
2076
01:29:59,200 --> 01:30:03,104
av vårt liv som arbetar med detta,
prata med alla ledande experter
2077
01:30:03,137 --> 01:30:05,539
på planeten om ämnet,
2078
01:30:05,573 --> 01:30:08,175
och du kommer att göra slut
2079
01:30:08,209 --> 01:30:11,444
med några som,
kumbaya skitsnack?
2080
01:30:11,478 --> 01:30:14,048
Det finns en asteroid
begav sig till jorden.
2081
01:30:14,081 --> 01:30:15,917
Vad gör du? Bara...
2082
01:30:15,950 --> 01:30:18,152
hålla händerna
och hoppas det löser sig?
2083
01:30:18,185 --> 01:30:19,854
Absolut inte.
2084
01:30:19,887 --> 01:30:22,924
Vi måste-- det ha--
det måste vara...
2085
01:30:22,957 --> 01:30:25,026
Slutet måste...
2086
01:30:26,493 --> 01:30:28,529
CAROLINE:
Okej, första sak:
2087
01:30:28,562 --> 01:30:32,033
AI är här,
och det är här för att stanna.
2088
01:30:32,066 --> 01:30:33,534
Skiten är borta från hästen,
2089
01:30:33,567 --> 01:30:36,436
men hästen är
kommer att fortsätta skita.
2090
01:30:38,873 --> 01:30:39,807
(publiken jublar)
2091
01:30:39,840 --> 01:30:41,943
Du vet, en av de grundläggande
historiens lagar
2092
01:30:41,976 --> 01:30:44,578
är det ingenting
har verkligen en början
2093
01:30:44,612 --> 01:30:46,580
och ingenting har något slut.
2094
01:30:46,614 --> 01:30:48,049
Det bara fortsätter.
2095
01:30:48,082 --> 01:30:50,918
AI är inte i närheten
dess fulla utveckling.
2096
01:30:50,952 --> 01:30:53,087
CAROLINE: Även om
den nuvarande AI-bubblan spricker,
2097
01:30:53,120 --> 01:30:54,956
-människor kommer aldrig att sluta
-(ljudmakaren blåser)
2098
01:30:54,989 --> 01:30:57,959
bygger mer och mer
kraftfull teknik.
2099
01:30:57,992 --> 01:30:59,827
HAO:
Du kan välja att inte använda AI
2100
01:30:59,860 --> 01:31:02,730
eller delta i det, men det är det
kommer att påverka dig ändå.
2101
01:31:02,763 --> 01:31:04,231
DANIEL: Okej, fantastiskt.
Så vi är skruvade.
2102
01:31:04,265 --> 01:31:07,568
CAROLINE: Nej, det är vi inte
på grund av en enkel sak.
2103
01:31:11,572 --> 01:31:13,574
Detta är inte oundvikligt.
2104
01:31:13,607 --> 01:31:15,576
Om vi bara kunde se det
tydligt tillsammans,
2105
01:31:15,609 --> 01:31:18,813
det uppenbara svaret blir
att välja något annat.
2106
01:31:18,846 --> 01:31:21,615
Vi måste mycket tydligt
ändra spelet
2107
01:31:21,649 --> 01:31:23,517
från ett lopp till botten
in i ett lopp mot toppen.
2108
01:31:23,551 --> 01:31:27,855
LEAHY: Problemet vi behöver
solve är inte AI specifikt.
2109
01:31:27,888 --> 01:31:31,726
Det är den allmänna frågan
hur vi bygger ett samhälle
2110
01:31:31,759 --> 01:31:34,528
som kan hantera
kraftfull teknik.
2111
01:31:34,562 --> 01:31:35,830
För vi kommer att få
2112
01:31:35,863 --> 01:31:37,264
bara mer och mer kraftfull
teknik.
2113
01:31:37,298 --> 01:31:40,034
CAROLINE:
Vi måste uppgradera vårt samhälle,
2114
01:31:40,067 --> 01:31:41,902
och det första steget är
kommer tillsammans
2115
01:31:41,936 --> 01:31:43,838
-och krävande...
-ALLA: Samordning.
2116
01:31:43,871 --> 01:31:47,608
Någon form av internationellt
samarbete eller avtal om
2117
01:31:47,641 --> 01:31:48,909
vilka normerna ska vara.
2118
01:31:48,943 --> 01:31:50,544
Du vet, hur ska det
de sätts in...
2119
01:31:50,578 --> 01:31:52,146
Som, äkta
internationell diplomati
2120
01:31:52,179 --> 01:31:53,781
bland supermakterna.
2121
01:31:53,814 --> 01:31:56,784
Kineserna är lika oroliga
om det som amerikanerna.
2122
01:31:56,817 --> 01:31:58,085
Jag tycker det är svårt,
du vet,
2123
01:31:58,119 --> 01:31:59,920
i strömmen
geopolitiskt klimat,
2124
01:31:59,954 --> 01:32:01,756
-men jag tror att det är nödvändigt.
-RASKIN: Absolut.
2125
01:32:01,789 --> 01:32:05,059
På exakt samma sätt som
sista gången som mänskligheten
2126
01:32:05,092 --> 01:32:09,163
utvecklat en teknik
det här farliga...
2127
01:32:09,830 --> 01:32:12,900
...som krävde en komplett,
oöverträffad förändring
2128
01:32:12,933 --> 01:32:15,169
till vår världs struktur.
2129
01:32:15,770 --> 01:32:18,172
CAROLINE:
Så vi måste göra det fullständigt,
2130
01:32:18,205 --> 01:32:20,307
oöverträffad förändring igen.
2131
01:32:21,008 --> 01:32:24,678
Du vet, vi-vi pratar med folk
som arbetar på dessa AI-företag,
2132
01:32:24,712 --> 01:32:25,846
och de säger att de vill göra
något annat,
2133
01:32:25,880 --> 01:32:27,048
men de behöver påtryckningar från allmänheten.
2134
01:32:27,081 --> 01:32:28,716
De behöver regeringen
att göra något.
2135
01:32:28,749 --> 01:32:30,217
Så då åker vi till DC,
och de säger,
2136
01:32:30,251 --> 01:32:32,153
"Tja, vi behöver Silicon Valley
att göra något annorlunda.
2137
01:32:32,186 --> 01:32:34,021
Det är de som ska
kom med skyddsräcken."
2138
01:32:34,055 --> 01:32:36,057
Och så pekar alla
fingret på någon annan,
2139
01:32:36,090 --> 01:32:39,927
och vad de är överens om är
att vi behöver påtryckningar från allmänheten
2140
01:32:39,960 --> 01:32:41,796
för något annat
att hända.
2141
01:32:41,829 --> 01:32:43,164
Och det är vad du
2142
01:32:43,197 --> 01:32:44,799
och alla människor
att se den här filmen kan göra.
2143
01:32:44,832 --> 01:32:45,833
CAROLINE:
Vi måste hålla ledarna
2144
01:32:45,866 --> 01:32:47,334
i våra regeringar
2145
01:32:47,368 --> 01:32:48,969
och ledarna för
dessa företag ansvariga.
2146
01:32:49,003 --> 01:32:51,639
BOEREE:
I vilket land du än befinner dig,
2147
01:32:51,672 --> 01:32:53,340
låt dem veta
att du inte är nöjd
2148
01:32:53,374 --> 01:32:54,975
med nuvarande status quo.
2149
01:32:55,009 --> 01:32:57,678
Så ja, det är tråkigt att säga
ring din kongressledamot.
2150
01:32:57,711 --> 01:32:59,880
Jag säger inte att du borde
gör bara det, men liksom,
2151
01:32:59,914 --> 01:33:01,215
det måste vi göra.
2152
01:33:01,248 --> 01:33:02,883
Som, vi måste få
den inblandade regeringen.
2153
01:33:02,917 --> 01:33:04,185
DANIEL: Så vi bara
ring dem och säg
2154
01:33:04,218 --> 01:33:06,253
"Hej, sluta Big Tech
från att förstöra världen"?
2155
01:33:06,287 --> 01:33:09,223
CAROLINE: Nej, men det finns
massor av riktigt uppenbara,
2156
01:33:09,256 --> 01:33:11,225
raka saker
vi kan vara krävande.
2157
01:33:11,258 --> 01:33:12,960
Vi behöver transparens.
2158
01:33:12,993 --> 01:33:14,795
Vi måste få ett slut på sekretessen
som finns i dessa labb,
2159
01:33:14,829 --> 01:33:17,031
eftersom de bygger
kraftfull teknik,
2160
01:33:17,064 --> 01:33:19,066
och allmänheten förtjänar att veta
vad händer.
2161
01:33:19,100 --> 01:33:21,068
I slutändan,
vi kommer att behöva oberoende,
2162
01:33:21,102 --> 01:33:23,637
objektiva tredje parter
att utvärdera systemen.
2163
01:33:23,671 --> 01:33:27,274
Vi kan inte räkna med företagen
att betygsätta sina egna läxor.
2164
01:33:27,308 --> 01:33:31,378
Om-om ett företag använder AI och-och
har AI interagerar med dig,
2165
01:33:31,412 --> 01:33:35,249
det ska avslöja att du är det
interagerar med ett AI-system.
2166
01:33:35,282 --> 01:33:39,019
Ja. Och vi behöver också
ett system som gör företag
2167
01:33:39,053 --> 01:33:42,156
juridiskt ansvarig för
AI-system som de producerar.
2168
01:33:42,189 --> 01:33:46,293
Det måste vi se till där
är tester och säkerhetsstandarder
2169
01:33:46,327 --> 01:33:48,662
som gäller alla.
2170
01:33:48,696 --> 01:33:50,097
Vi behöver lite spelregler,
2171
01:33:50,131 --> 01:33:51,999
och vi måste fortsätta anpassa oss
dessa regler
2172
01:33:52,032 --> 01:33:55,002
i den hastighet som
tekniken utvecklas.
2173
01:33:55,035 --> 01:33:57,738
LEAHY: Det finns för närvarande
mer reglering
2174
01:33:57,771 --> 01:33:59,840
om att sälja en smörgås
till allmänheten
2175
01:33:59,874 --> 01:34:03,410
än det finns på att bygga
potentiellt världsavslutande AGI.
2176
01:34:03,444 --> 01:34:05,279
CAROLINE:
Och det sista är
2177
01:34:05,312 --> 01:34:07,214
för att uppgradera oss själva.
2178
01:34:07,915 --> 01:34:10,284
Det här är liksom inte jobbet
av, som, säkerhetsteamet
2179
01:34:10,317 --> 01:34:12,153
vid ett givet labb eller VD.
2180
01:34:12,186 --> 01:34:13,854
Så, liksom, det här är
allas jobb.
2181
01:34:13,888 --> 01:34:15,156
Lämna det inte, liksom
upp till AI-experterna.
2182
01:34:15,189 --> 01:34:17,424
Som, (pip) det.
Som, det här är ögonblicket
2183
01:34:17,458 --> 01:34:19,460
att vi övergår
från, typ,
2184
01:34:19,493 --> 01:34:22,163
mestadels mänsklig kognitiv kraft
till, till exempel, AI kognitiv kraft,
2185
01:34:22,196 --> 01:34:23,197
och det påverkar alla,
2186
01:34:23,230 --> 01:34:25,166
och jag vill att folk ska vara det
med i det samtalet.
2187
01:34:25,199 --> 01:34:27,234
Och jag skulle säga, om du tänker
att AI kommer att döda oss alla,
2188
01:34:27,268 --> 01:34:28,969
du borde jobba
inom AI-forskning
2189
01:34:29,003 --> 01:34:30,804
för att se till att det inte gör det,
för du har
2190
01:34:30,838 --> 01:34:32,773
en enorm mängd agentur.
2191
01:34:32,806 --> 01:34:34,208
CAROLINE:
Vem du än är,
2192
01:34:34,241 --> 01:34:36,177
du är en expert
i din egen bransch,
2193
01:34:36,210 --> 01:34:39,413
i din egen skola,
i din egen familj,
2194
01:34:39,446 --> 01:34:43,050
och det är upp till dig
hur AI används i ditt liv.
2195
01:34:43,083 --> 01:34:45,319
Oavsett om du vill vara med
din skolstyrelse
2196
01:34:45,352 --> 01:34:48,389
eller-eller om du vill fråga
din arbetsgivare
2197
01:34:48,422 --> 01:34:49,924
hur de använder
AI-teknik,
2198
01:34:49,957 --> 01:34:52,259
som att vi alla kan göra jobbet.
2199
01:34:52,293 --> 01:34:56,330
Många fackföreningar har varit det
ganska effektiv på t.ex.
2200
01:34:56,363 --> 01:34:59,333
avgör hur de vill
för att interagera med dessa system.
2201
01:34:59,366 --> 01:35:02,303
-Sköterskors fackföreningar, lärarförbund.
-(otydlig skandering)
2202
01:35:02,937 --> 01:35:05,039
DANIELA AMODEI: Jag skulle älska
om föräldrar överallt
2203
01:35:05,072 --> 01:35:06,407
gick till AI-företagen
och sa,
2204
01:35:06,440 --> 01:35:08,342
"Hur kan du bli bättre
på detta?" Inklusive oss.
2205
01:35:08,375 --> 01:35:11,445
Så jag grundade Encode Justice
när jag var 15 år.
2206
01:35:11,478 --> 01:35:15,082
Vi är världens första
och största armén av ungdomar
2207
01:35:15,115 --> 01:35:18,452
kämpar för människocentrerad
artificiell intelligens.
2208
01:35:18,485 --> 01:35:21,288
Det spelar ingen roll vem du är,
även de minsta åtgärderna hjälper,
2209
01:35:21,322 --> 01:35:24,291
och till och med konversation börjar
är verkligen, verkligen värdefullt.
2210
01:35:24,325 --> 01:35:26,293
DANIEL:
Så mitt jobb kan vara, typ
2211
01:35:26,327 --> 01:35:28,295
berätta om detta för Bubby Lila
vid middagen?
2212
01:35:28,329 --> 01:35:30,364
CAROLINE: Ärligt talat, ja,
det är en del av det.
2213
01:35:30,397 --> 01:35:32,099
Och det får vi göra
2214
01:35:32,132 --> 01:35:34,969
en massa saker som
vi har inte ens tänkt på än.
2215
01:35:35,002 --> 01:35:36,503
Folk kommer att titta på
allt som vi har beskrivit
2216
01:35:36,538 --> 01:35:37,838
och säg, "Det räcker inte."
2217
01:35:37,871 --> 01:35:39,473
Det viktiga är att krafterna
2218
01:35:39,507 --> 01:35:41,242
som fungerar
mot lösningar
2219
01:35:41,275 --> 01:35:44,979
börja överträffa krafterna som
arbetar mot lösningar.
2220
01:35:45,012 --> 01:35:46,947
Att göra världen bättre
har alltid varit jobbigt.
2221
01:35:46,981 --> 01:35:48,249
Det har aldrig varit lätt.
2222
01:35:48,282 --> 01:35:50,317
Det har liksom funnits
många taskiga saker
2223
01:35:50,351 --> 01:35:52,286
som har hänt i historien,
och vi har haft--
2224
01:35:52,319 --> 01:35:54,121
som folk har haft
att ta itu med det,
2225
01:35:54,154 --> 01:35:57,191
och så har de rest sig
och ändrade det.
2226
01:35:57,224 --> 01:36:00,894
Det finns ett vansinnigt antal
utmaningar framför oss,
2227
01:36:00,928 --> 01:36:04,398
men om vi kan komma förbi dem,
2228
01:36:04,431 --> 01:36:08,536
vi kan låsa upp en framtid bortom
vår vildaste fantasi.
2229
01:36:08,570 --> 01:36:10,804
CAROLINE:
Vi måste gå ihop
2230
01:36:10,838 --> 01:36:14,875
och hitta vägen mellan
löftet och faran.
2231
01:36:14,908 --> 01:36:17,177
Vi kan inte vara pessimister
eller optimister.
2232
01:36:17,778 --> 01:36:20,180
Vi måste bli något nytt.
2233
01:36:22,182 --> 01:36:25,185
En vän till mig ringer mig
en apokaloptimist.
2234
01:36:25,219 --> 01:36:26,186
"Apokaloptimist"?
2235
01:36:26,220 --> 01:36:28,889
Jag tror att det kan vara det
mitt nya favoritord.
2236
01:36:28,922 --> 01:36:30,291
-(skrattar) -MAN: Kanske
namnet på denna film.
2237
01:36:30,324 --> 01:36:31,892
-Det kan vara namnet
av den här filmen. -(skratt)
2238
01:36:31,925 --> 01:36:34,862
-"Apokaloptimist."
-"Apokaloptimist."
2239
01:36:34,895 --> 01:36:36,430
Ja.
2240
01:36:36,463 --> 01:36:37,898
Jag tror inte på undergång.
2241
01:36:37,931 --> 01:36:39,366
Jag tror på livets ande,
2242
01:36:39,400 --> 01:36:43,137
och det tror jag på livet
om handlingsförmågan.
2243
01:36:43,170 --> 01:36:44,905
-(publiken sjunger)
-Förmågan att relatera,
2244
01:36:44,938 --> 01:36:47,141
förmågan att känna.
2245
01:36:49,376 --> 01:36:51,345
-(otydligt uppdragsprat)
-(hejar)
2246
01:36:51,378 --> 01:36:54,315
Vi måste dubbla
mer och mer
2247
01:36:54,348 --> 01:36:57,384
om dessa kapaciteter
som vi har som människor
2248
01:36:57,418 --> 01:36:59,853
det robotsystem
kommer aldrig att ha.
2249
01:37:00,487 --> 01:37:04,559
Det är dags just nu
att fatta de besluten om
2250
01:37:04,592 --> 01:37:08,062
hur man vägleder den och stödjer den
snarare än att dela oss.
2251
01:37:08,095 --> 01:37:10,898
DANIEL: Det låter ungefär som
uppfostra ett barn.
2252
01:37:10,931 --> 01:37:12,634
Det är vad som händer. Ja.
2253
01:37:12,667 --> 01:37:15,035
CAROLINE: AI kan ha
mer rå intelligens
2254
01:37:15,069 --> 01:37:17,471
-än våra små mänskliga hjärnor,
-(bebis skrattar)
2255
01:37:17,504 --> 01:37:20,608
men vi är så mycket fler
än bara vår intelligens.
2256
01:37:21,208 --> 01:37:25,379
Intelligens är-är
förmågan att lösa problem.
2257
01:37:25,412 --> 01:37:29,116
Visdom är förmågan att veta
vilka problem som ska lösas.
2258
01:37:31,519 --> 01:37:34,188
(otydligt besättningssnack)
2259
01:37:34,221 --> 01:37:35,489
DANIEL:
Det kan gå på ditt kylskåp.
2260
01:37:35,523 --> 01:37:36,658
(skrattar)
2261
01:37:36,691 --> 01:37:38,626
YUDKOWSKY:
Så ge inte upp.
2262
01:37:38,660 --> 01:37:40,227
Det har mänskligheten gjort
2263
01:37:40,260 --> 01:37:43,030
svårare saker än så här
i dess historia.
2264
01:37:43,897 --> 01:37:46,967
Det är bara svårt att övertyga
människor som de borde.
2265
01:37:47,000 --> 01:37:49,336
♪ ♪
2266
01:37:52,072 --> 01:37:53,273
(ljudet sprakar)
2267
01:37:55,309 --> 01:37:57,277
DANIEL: Så, när jag började
gör den här filmen,
2268
01:37:57,311 --> 01:37:59,012
Jag skulle säga att jag var, typ
2269
01:37:59,046 --> 01:38:01,348
i stort sett en cynisk skitstövel
om hela det här.
2270
01:38:01,382 --> 01:38:03,450
Under kursen
att göra filmen,
2271
01:38:03,484 --> 01:38:05,152
Jag har förstått
det, som,
2272
01:38:05,185 --> 01:38:06,987
det är det enda
vi kan inte vara det.
2273
01:38:07,756 --> 01:38:09,990
...eller något annat
vill du diskutera?
2274
01:38:10,023 --> 01:38:11,992
Nej. Jag tror att vi täckte mycket.
2275
01:38:12,025 --> 01:38:13,561
-Ja. (skratt)
-MAN: Tack så mycket.
2276
01:38:13,595 --> 01:38:15,295
Tack.
2277
01:38:15,929 --> 01:38:17,498
DANIEL:
Det här är ett problem som är större
2278
01:38:17,532 --> 01:38:19,400
än någon annan person.
2279
01:38:19,433 --> 01:38:22,136
Detta kommer att förändra världen i
sätt som vi inte förstår.
2280
01:38:22,169 --> 01:38:24,037
Det är allt sant.
2281
01:38:24,071 --> 01:38:26,106
-(skrattar): Okej.
-(otydligt prat)
2282
01:38:26,140 --> 01:38:28,208
DANIEL:
Men det vi gör har agentur över
2283
01:38:28,242 --> 01:38:30,411
är vad vi gör åt det.
2284
01:38:30,444 --> 01:38:33,113
När frontier AI växer
exponentiellt mer kapabel...
2285
01:38:33,147 --> 01:38:34,682
DANIEL:
Och verkligheten
2286
01:38:34,716 --> 01:38:37,151
är det om vi bara bestämmer oss
det är hopplöst,
2287
01:38:37,184 --> 01:38:39,420
då är det hopplöst.
2288
01:38:39,453 --> 01:38:41,221
...för att stressa mindre
på planeten jorden...
2289
01:38:41,255 --> 01:38:43,257
DANIEL:
Men om du bestämmer dig
2290
01:38:43,290 --> 01:38:46,293
som du vill prova...
2291
01:38:47,194 --> 01:38:48,563
...då försöker du.
2292
01:38:48,596 --> 01:38:50,931
Och det är svårt.
2293
01:38:51,733 --> 01:38:53,500
Men vet du vad?
2294
01:38:53,535 --> 01:38:57,137
Stora saker verkar omöjliga
innan de faktiskt inträffar.
2295
01:38:58,673 --> 01:39:01,676
Men när de äntligen händer,
2296
01:39:01,709 --> 01:39:05,713
det beror på att miljontals människor
vidtog miljontals åtgärder
2297
01:39:05,747 --> 01:39:08,182
för att få dem att hända.
2298
01:39:08,215 --> 01:39:10,752
Och så...
2299
01:39:10,785 --> 01:39:13,220
vi måste försöka.
2300
01:39:14,087 --> 01:39:15,523
(suckar tungt)
2301
01:39:21,663 --> 01:39:24,298
Det står för mycket på spel.
2302
01:39:24,331 --> 01:39:26,366
♪ ♪
2303
01:39:33,040 --> 01:39:35,375
(film sprakar)
2304
01:39:37,545 --> 01:39:41,749
Titta på de otroliga förändringarna
vi har upplevt och överlevt
2305
01:39:41,783 --> 01:39:43,317
från stenåldern,
2306
01:39:43,350 --> 01:39:46,487
och ändå ännu större förändringar
kommer fortfarande.
2307
01:39:46,521 --> 01:39:50,090
("Blev borttappad av att försöka"
av Son Lux spelar)
2308
01:40:19,086 --> 01:40:21,288
♪ ♪
2309
01:40:48,181 --> 01:40:50,718
♪ Vad ska vi göra nu? ♪
2310
01:40:50,752 --> 01:40:53,755
♪ Vi har tappat det till att försöka ♪
2311
01:40:53,788 --> 01:40:55,690
♪ Vi har tappat det ♪
2312
01:40:55,723 --> 01:40:57,457
♪ Att försöka ♪
2313
01:41:00,193 --> 01:41:02,764
♪ Vad ska vi göra nu? ♪
2314
01:41:02,797 --> 01:41:05,733
♪ Vi har tappat det till att försöka ♪
2315
01:41:05,767 --> 01:41:07,602
♪ Vi har tappat det ♪
2316
01:41:07,635 --> 01:41:09,469
♪ Att försöka ♪
2317
01:41:12,205 --> 01:41:14,709
♪ Vad kan vi säga nu? ♪
2318
01:41:14,742 --> 01:41:17,745
♪ Våra munnar ljuger bara ♪
2319
01:41:17,779 --> 01:41:19,212
♪ Våra munnar ♪
2320
01:41:19,246 --> 01:41:21,448
♪ Bara ljuger ♪
2321
01:41:25,720 --> 01:41:28,255
♪ Vad kan vi säga nu? ♪
2322
01:41:28,288 --> 01:41:31,358
♪ Våra munnar ljuger bara ♪
2323
01:41:31,391 --> 01:41:32,760
♪ Våra munnar ♪
2324
01:41:32,794 --> 01:41:34,762
♪ Bara ljuger ♪
2325
01:41:34,796 --> 01:41:37,197
♪ ♪
2326
01:42:01,522 --> 01:42:04,291
♪ Ge efter och gå ut ♪
2327
01:42:04,324 --> 01:42:07,294
♪ Vi reser oss i de döende ♪
2328
01:42:07,327 --> 01:42:08,763
♪ Vi reser oss ♪
2329
01:42:08,796 --> 01:42:11,164
♪ I den döende ♪
2330
01:42:13,568 --> 01:42:16,336
♪ Ge efter och gå ut ♪
2331
01:42:16,370 --> 01:42:19,272
♪ Vi reser oss i de döende ♪
2332
01:42:19,306 --> 01:42:20,775
♪ Vi reser oss ♪
2333
01:42:20,808 --> 01:42:23,176
♪ I den döende ♪
2334
01:42:25,546 --> 01:42:28,248
♪ Ge efter och gå ut ♪
2335
01:42:28,281 --> 01:42:31,251
♪ Vi reser oss i de döende ♪
2336
01:42:31,284 --> 01:42:32,787
♪ Vi reser oss ♪
2337
01:42:32,820 --> 01:42:35,155
♪ I den döende ♪
2338
01:42:37,558 --> 01:42:40,293
♪ Ge efter och gå ut ♪
2339
01:42:40,327 --> 01:42:43,263
♪ Vi reser oss i de döende ♪
2340
01:42:43,296 --> 01:42:44,532
♪ Vi ♪
2341
01:42:44,565 --> 01:42:46,601
♪ ♪
2342
01:43:16,263 --> 01:43:18,465
♪ ♪
2343
01:43:23,336 --> 01:43:25,840
♪ Åh, åh, åh, åh, åh
2344
01:43:25,873 --> 01:43:27,675
♪ Åh, oj, oj, oj ♪
2345
01:43:27,709 --> 01:43:28,943
♪ Åh, åh ♪
2346
01:43:28,976 --> 01:43:31,913
♪ Åh, åh, åh, åh, åh, åh
2347
01:43:31,946 --> 01:43:33,648
♪ Åh, oj, oj, oj ♪
2348
01:43:33,681 --> 01:43:34,916
♪ Åh, åh ♪
2349
01:43:34,949 --> 01:43:37,552
♪ Åh, åh, åh, åh, åh, åh
2350
01:43:37,585 --> 01:43:40,287
♪ Vad ska vi göra nu? ♪
2351
01:43:40,320 --> 01:43:43,290
♪ Vi har tappat det till att försöka ♪
2352
01:43:43,323 --> 01:43:45,026
♪ Vi har tappat det ♪
2353
01:43:45,059 --> 01:43:46,861
♪ Att försöka ♪
2354
01:43:46,894 --> 01:43:49,530
♪ Åh, åh, åh, åh, åh, åh
2355
01:43:49,564 --> 01:43:52,332
♪ Vad ska vi göra nu? ♪
2356
01:43:52,365 --> 01:43:55,335
♪ Vi har tappat det till att försöka ♪
2357
01:43:55,368 --> 01:43:57,038
♪ Vi har tappat det ♪
2358
01:43:57,071 --> 01:43:58,940
♪ Att försöka. ♪
2359
01:43:58,973 --> 01:44:01,374
♪ ♪
2360
01:44:23,798 --> 01:44:24,865
(låten slutar)